Một luật sư cao cấp tại Úc đã xin lỗi vì nộp hồ sơ vụ án giết người có chứa trích dẫn và phán quyết giả do AI tạo ra.
Sai sót tại Tòa án Tối cao bang Victoria là một trong nhiều sự cố liên quan đến trí tuệ nhân tạo (AI) trong hệ thống tư pháp toàn cầu.
Luật sư bào chữa Rishi Nathwani, người mang danh hiệu pháp lý danh giá King's Counsel, đã nhận “hoàn toàn trách nhiệm” vì nộp thông tin sai lệch trong hồ sơ vụ án một thiếu niên bị cáo buộc tội giết người.
“Chúng tôi vô cùng xin lỗi và cảm thấy xấu hổ về những gì đã xảy ra,” Nathwani nói với Thẩm phán James Elliott vào thứ Tư, thay mặt nhóm luật sư bào chữa.
Mọi người rời khỏi Tòa án Tối cao bang Victoria ở Melbourne, Úc vào ngày 15/8/2025. (Nguồn: AP)
Các văn bản trình bày sai lệch bao gồm trích dẫn bịa đặt từ một bài phát biểu trước cơ quan lập pháp tiểu bang và các phán quyết không tồn tại được cho là của Tòa án Tối cao. Các cộng sự của Thẩm phán Elliott đã phát hiện ra lỗi khi không thể tìm thấy các vụ án được trích dẫn và yêu cầu luật sư cung cấp bản sao.
Các luật sư thừa nhận rằng những trích dẫn đó “không tồn tại” và văn bản trình bày chứa “những trích dẫn hư cấu”, theo tài liệu của tòa án. Họ giải thích rằng ban đầu đã kiểm tra một số trích dẫn là chính xác và sai lầm khi cho rằng các trích dẫn còn lại cũng đúng. Các văn bản này cũng đã được gửi cho công tố viên Daniel Porceddu, nhưng ông không kiểm tra lại tính xác thực.
Những lỗi do AI gây ra đã khiến việc xét xử bị trì hoãn 24 giờ. Ngày hôm sau, Thẩm phán Elliott tuyên bố bị cáo - người không được nêu tên vì là trẻ vị thành niên - không phạm tội giết người do bị suy giảm chức năng tâm thần.
“Nguy cơ bị đánh giá thấp, nhưng cách thức diễn ra của sự việc là không thể chấp nhận,” Elliott nói với các luật sư vào thứ Năm. “Khả năng của tòa án trong việc dựa vào tính chính xác của các văn bản trình bày là nền tảng cho việc thực thi công lý đúng đắn,” ông nhấn mạnh.
Thẩm phán cũng lưu ý rằng Tòa án Tối cao đã ban hành hướng dẫn từ năm ngoái về việc sử dụng AI trong ngành luật. “Việc sử dụng trí tuệ nhân tạo là không thể chấp nhận được, trừ khi sản phẩm từ AI được kiểm chứng độc lập và kỹ lưỡng,” ông nói.
Tài liệu của tòa án không nêu rõ hệ thống AI tạo sinh nào đã được các luật sư sử dụng.
Thẩm phán James Elliott tại Tòa án Tối cao bang Victoria ở Melbourne, Úc. (Nguồn: AP)
Vào năm 2023, trong một vụ án tại Hoa Kỳ, một thẩm phán liên bang đã phạt hai luật sư và một công ty luật 5.000 USD vì nộp hồ sơ pháp lý có chứa các trích dẫn giả mạo, được cho là do ChatGPT tạo ra trong một vụ kiện liên quan đến thương tích hàng không.
Thẩm phán nhận định rằng các luật sư đã hành động thiếu thiện chí, nhưng ông cũng ghi nhận lời xin lỗi và các biện pháp khắc phục mà họ đã thực hiện. Điều này giúp tránh các hình phạt nghiêm khắc hơn, vì ông tin rằng những biện pháp đó đủ để ngăn họ và những người khác sử dụng công cụ AI tạo ra lịch sử pháp lý giả mạo trong các lập luận pháp lý sau này.
Cuối năm đó, các luật sư của Michael Cohen — cựu luật sư riêng của Tổng thống Mỹ Donald Trump — đã trích dẫn nhiều phán quyết giả mạo do AI tạo ra trong hồ sơ pháp lý. Cohen thừa nhận lỗi, cho biết ông không nhận ra rằng công cụ Google mà ông sử dụng để nghiên cứu pháp lý có thể tạo ra cái gọi là “ảo giác AI”.
Thẩm phán Tòa án Tối cao Anh, bà Victoria Sharp, đã cảnh báo rằng việc cung cấp tài liệu sai sự thật như thể đó là sự thật có thể bị coi là hành vi coi thường tòa án, hoặc trong “những trường hợp nghiêm trọng nhất”, là hành vi làm sai lệch tiến trình tố tụng, với mức án tối đa là tù chung thân.
