Tin lời AI, nông dân mất trắng 100.000 m² cây trồng sau một đêm

Nông dân 67 tuổi ở Trừ Châu (tỉnh An Huy, phía đông Trung Quốc), sử dụng trí tuệ nhân tạo (AI) để hỗ trợ công việc đồng áng trong nhiều tháng.

Ông thường hỏi một ứng dụng chatbot về lịch canh tác và cách sử dụng phân bón. Ban đầu còn hoài nghi, nhưng sau một thời gian sử dụng, người đàn ông dần tin tưởng những câu trả lời mà AI cung cấp.

Gần đây, ông hỏi chatbot cách kiểm soát sâu bệnh trên ruộng mè. Chatbot đề xuất sử dụng hỗn hợp gồm flupyrimethalin, fomesafen cùng thiamethoxazine và methyl salt. Đây là các hợp chất thường được dùng trong thuốc trừ sâu và thuốc diệt cỏ.

Người nông dân làm theo hướng dẫn, phun hỗn hợp lên ruộng mè mà không tham khảo thêm ý kiến của chuyên gia nông nghiệp.

Ngày hôm sau, ông phát hiện khoảng 10 ha, tương đương 100.000 m² cây trồng, bị hư hại.

Người đàn ông sau đó tiếp tục hỏi chính chatbot về nguyên nhân. Lần này, AI giải thích fomesafen là thuốc diệt cỏ được sử dụng để kiểm soát các loại cỏ lá rộng.

Mè cũng là thực vật lá rộng, do đó loại thuốc này có thể gây hại cho chính cây trồng mà người nông dân muốn bảo vệ.

“Nếu phun loại thuốc này, sang ngày hôm sau cây con sẽ không sống nổi”, người đàn ông chia sẻ. “Cả cỏ lẫn cây giống đều chết, thậm chí cây giống còn chết nhanh hơn”.

Sự việc cho thấy rủi ro khi áp dụng trực tiếp lời khuyên của chatbot vào những lĩnh vực đòi hỏi kiến thức chuyên môn mà không kiểm chứng từ nguồn khác.

Chatbot AI không phải công cụ luôn cung cấp thông tin chính xác. Các mô hình này được huấn luyện trên lượng dữ liệu lớn và tạo câu trả lời bằng cách dự đoán chuỗi từ phù hợp dựa trên những mẫu đã học. Vì vậy, nội dung tạo ra có thể nghe hợp lý nhưng chưa chắc chính xác hoàn toàn.

Hiện tượng AI tạo thông tin sai hoặc không có căn cứ nhưng trình bày như sự thật thường được gọi là “ảo giác” (hallucination).

Một nghiên cứu quốc tế gần đây chỉ ra rằng 45% câu trả lời do AI cung cấp có ít nhất một vấn đề đáng kể, trong đó khoảng 20% chứa thông tin “ảo giác”.

Đáng lo ngại khi một số nghiên cứu cho thấy cứ 7 người thì có một người từng sử dụng AI để tìm kiếm lời khuyên liên quan đến sức khỏe. Do đó, những lời khuyên của AI có thể gây hậu quả nghiêm trọng nếu thông tin sai được áp dụng.