Thẩm phán Phạt Luật sư Vì Sử dụng Nghiên cứu Pháp lý Giả mạo Được Tạo bởi Trí tuệ Nhân tạo

Một thẩm phán Hoa Kỳ đã chỉ trích gay gắt hai công ty luật vì đã đưa thông tin pháp lý giả mạo do AI tạo ra vào hồ sơ tòa án, gọi đó là một sai sót lớn trong trách nhiệm pháp lý.

Thẩm phán Michael Wilner, làm việc tại California, đã phạt các công ty 31.000 đô la sau khi phát hiện đơn kiện chứa đầy “những trích dẫn và trích dẫn pháp lý sai, không chính xác và gây hiểu lầm”, như được đưa tin đầu tiên bởi WIRED.

“Không một luật sư có trình độ tương đối có thể nên giao việc nghiên cứu và viết lách cho AI”, Wilner viết trong phán quyết của mình, cảnh báo rằng ông đang gần như bao gồm các vụ kiện giả mạo trong một lệnh tòa.

“Tôi đã đọc hồ sơ của họ, đã bị thuyết phục (hoặc ít nhất là bị thu hút) bởi những cơ quan mà họ trích dẫn, và đã tìm hiểu thêm về những quyết định này – chỉ để phát hiện ra rằng chúng không tồn tại”, ông nói, như được WIRED đưa tin. “Điều đó thật đáng sợ,” ông thêm vào.

Tình huống xảy ra trong một vụ kiện dân sự chống lại State Farm. Một luật sư đã sử dụng công cụ AI để soạn thảo một bản phác thảo pháp lý. Tài liệu này, chứa nghiên cứu giả mạo, đã được trao cho công ty luật lớn hơn K&L Gates, và họ đã thêm nó vào một bản kiện chính thức.

“Không có luật sư hoặc nhân viên nào tại cả hai công ty dường như đã kiểm tra hoặc xem xét nghiên cứu đó trước khi nộp đơn kiện,” Wilner nhấn mạnh, như được báo cáo bởi WIRED.

Sau khi phát hiện ra ít nhất hai trong số các trường hợp được trích dẫn hoàn toàn là giả mạo, Thẩm phán Wilner đã yêu cầu K&L Gates giải thích. Khi họ nộp một phiên bản mới, hóa ra nó bao gồm cả nhiều trích dẫn giả mạo hơn. Thẩm phán đã yêu cầu một lời giải thích, đó là các tuyên bố khẳng định công khai về việc sử dụng các công cụ AI, như được WIRED báo cáo..

Wilner kết luận: “Việc sử dụng ban đầu, không công bố của các sản phẩm AI để tạo ra bản thảo đầu tiên của bản kiến nghị hoàn toàn sai lầm […] Và việc gửi tài liệu đó cho các luật sư khác mà không tiết lộ nguồn gốc AI đáng ngờ của nó thực tế đã đặt những chuyên gia này vào tình trạng nguy hiểm,” như được WIRED báo cáo.

Đây không phải lần đầu tiên AI gây rắc rối trong các phòng xử án. Thực tế, gần đây, hai luật sư tại Wyoming đã thừa nhận đã sử dụng các vụ kiện giả mạo do AI tạo ra trong hồ sơ đệ trình cho một vụ kiện chống lại Walmart. Một thẩm phán liên bang đã đe dọa sẽ kỷ luật họ.

Trong tình huống này, “ảo giác” của AI – thông tin giả mạo được công cụ AI tạo ra – đang trở thành một vấn đề ngày càng nghiêm trọng trong hệ thống pháp lý.