AI bịa hơn 4.000 trích dẫn trong gần 3.000 bài báo khoa học

Nghiên cứu mới công bố trên tạp chí y khoa danh tiếng The Lancet đã phát hiện hơn 4.000 trích dẫn tham khảo bịa đặt trong gần 3.000 bài báo khoa học y sinh xuất bản từ năm 2023 đến đầu năm 2026.

Nhiều bài báo khoa học được phát hiện chứa trích dẫn do AI bịa ra. (Ảnh minh họa)

Phó giáo sư Điều dưỡng học Maxim Topaz tại Đại học Columbia, tác giả chính của nghiên cứu, cho biết vấn đề đặc biệt nghiêm trọng bởi các nghiên cứu khoa học là nền tảng để xây dựng hướng dẫn lâm sàng cho đội ngũ y tế.

"Khi những tài liệu tham khảo giả lọt vào các công trình khoa học, chúng có thể xuất hiện trong các hướng dẫn điều trị. Và đó là cơ sở để bác sĩ đưa ra quyết định chăm sóc bệnh nhân", ông Topaz nói với CBS News.

Điều này đồng nghĩa bác sĩ có thể vô tình đưa ra quyết định điều trị dựa trên những nghiên cứu chưa từng tồn tại.

Nhóm nghiên cứu cũng phát hiện chưa có trường hợp nào trong số các sai sót được nhận diện bị đính chính hoặc thu hồi. Điều đó đồng nghĩa các thông tin sai lệch này vẫn có thể tiếp tục ảnh hưởng đến hoạt động chăm sóc sức khỏe.

Ông Topaz cho biết số lượng tài liệu tham khảo giả xuất hiện trong các công trình y học đã tăng nhanh trong thời gian gần đây. Chỉ trong ba năm, số trích dẫn sai lệch được ghi nhận đã tăng gấp 12 lần.

Động lực để ông Topaz thực hiện nghiên cứu bắt nguồn từ chính trải nghiệm cá nhân. Trong quá trình hoàn thiện một bài báo khoa học, ứng dụng AI mà ông sử dụng đã tự động chèn một tài liệu tham khảo không tồn tại. Trích dẫn này vượt qua nhiều vòng phản biện trước khi bị một biên tập viên phát hiện

"Tôi thực sự hoảng hốt. Tôi đã nghiên cứu AI suốt 15 năm qua. Nếu điều đó có thể xảy ra với tôi, nó có thể xảy ra với bất kỳ ai", ông Topaz nói, cho biết thêm rằng tình trạng này thường xảy ra khi tác giả yêu cầu AI tìm tài liệu tham khảo để chứng minh cho một nhận định hoặc dữ liệu nào đó. Thay vì tìm nguồn thực, AI đôi khi tự tạo ra một nghiên cứu có vẻ hợp lý.

Trong một số trường hợp, AI còn gán nghiên cứu không tồn tại cho các nhà khoa học. Có những trường hợp toàn bộ thông tin từ tên tác giả, tiêu đề nghiên cứu đến tạp chí xuất bản đều được bịa hoàn toàn.

"Đây chỉ là phần nổi của tảng băng chìm", ông Topaz cảnh báo, cho rằng các lĩnh vực nghiên cứu khác ngoài y học cũng có thể đang đối mặt với tình trạng tương tự.

Ông nhấn mạnh các tài liệu tham khảo do AI tạo ra thường có hình thức rất giống thật, khiến chúng dễ dàng lọt qua quá trình kiểm tra nếu tác giả và biên tập viên không xác minh kỹ nguồn gốc.

Các nhà nghiên cứu được khuyến cáo kiểm tra từng tài liệu tham khảo trước khi công bố công trình, đặc biệt trong bối cảnh AI ngày càng được sử dụng phổ biến trong hoạt động nghiên cứu và biên tập học thuật.