AI biến người vô gia cư thành trò đùa, cảnh sát Mỹ cảnh báo

Công nghệ AI đang mở ra một kỷ nguyên sáng tạo chưa từng có, nơi mọi người có thể tạo ra hình ảnh, giọng nói và nội dung số chỉ bằng vài cú nhấp chuột. Tuy nhiên, sự tiện lợi này cũng đi kèm với những rủi ro nghiêm trọng, đặc biệt khi AI bị sử dụng như một công cụ để tạo ra các trò đùa nguy hiểm.

Những tình huống tưởng chừng vô hại đang trở thành mồi lửa cho khủng hoảng xã hội, pháp lý và tâm lý.

AI biến người vô gia cư thành nhân vật ảo trong trò đùa TikTok – ranh giới giữa giải trí và xúc phạm đang bị xóa nhòa. (Nguồn: The Verge)

TikTok và trò đùa “người vô gia cư AI”

Tại Mỹ, một trào lưu TikTok đang khiến cảnh sát phải lên tiếng cảnh báo: Người dùng sử dụng công cụ AI của Snapchat để tạo hình ảnh người đàn ông vô gia cư xuất hiện trong nhà, rồi quay lại phản ứng hoảng hốt của cha mẹ họ. Một số phụ huynh đã gọi cảnh sát, dẫn đến phản ứng khẩn cấp như thể có vụ đột nhập thật sự.

Sở Cảnh sát Salem, Massachusetts cảnh báo hành vi này có thể dẫn đến hành động của Đội đặc nhiệm phản ứng nhanh (SWAT).

Cơ quan này đã tóm tắt lại sự việc một cách súc tích nhất trong một tuyên bố: "Trò đùa này làm mất đi phẩm giá của người vô gia cư, khiến người nhận cuộc gọi hoảng loạn và gây lãng phí nguồn lực của cảnh sát. Các cảnh sát được gọi đến để ứng phó không biết đây là một trò đùa và coi cuộc gọi như một vụ trộm thực sự đang diễn ra, do đó tạo ra một tình huống tiềm ẩn nhiều nguy hiểm".

Không chỉ ở Mỹ, các trò đùa AI đang lan rộng toàn cầu. Tại Ấn Độ, một video sử dụng Deepfake trong kỳ bầu cử năm 2024 đã khiến dư luận hoang mang khi một chính trị gia bị gán phát ngôn gây tranh cãi – hoàn toàn do AI tạo ra.

Khắp nơi trên thế giới, dịp Cá tháng Tư trở thành “sân chơi AI” với hàng loạt hình ảnh người nổi tiếng bị giả mạo, tin nhắn từ người thân bị làm giả, gây tổn thương tâm lý và gián đoạn dịch vụ khẩn cấp.

Lewis Griffin, nhà nghiên cứu tại Đại học College London, cảnh báo: “Sự phát triển của công nghệ AI đi kèm với nguy cơ bị khai thác cho mục đích tội phạm hoặc gây hoang mang xã hội”.

Cảnh ngập lụt tại cung điện Gyeongbokgung được tạo nên từ AI. (Ảnh cắt từ Video, nguồn: Youtube).

Giáo dục và kiểm soát

Để ngăn chặn các hành vi lạm dụng AI, việc giáo dục người dùng, đặc biệt là giới trẻ, về đạo đức công nghệ là điều cấp thiết. AI không phải là món đồ chơi và việc sử dụng nó để tạo ra nội dung giả mạo cần được nhìn nhận như một hành vi có thể gây hại.

Các nền tảng như TikTok, Snapchat cần triển khai bộ lọc nội dung AI mạnh mẽ hơn, kèm theo cảnh báo rõ ràng khi người dùng tạo ra hình ảnh hoặc âm thanh giả mạo. Việc này không chỉ giúp bảo vệ người dùng mà còn giảm thiểu nguy cơ gây hoang mang cộng đồng.

Theo khảo sát của Pew Research, dù công chúng còn nhiều lo ngại về AI, các chuyên gia lại lạc quan hơn. Tuy nhiên, cả hai nhóm đều đồng thuận rằng cần có quy định rõ ràng để ngăn chặn các hành vi lạm dụng. Việc xây dựng khung pháp lý và quy trình kiểm soát AI không chỉ là trách nhiệm của Chính phủ mà còn là nghĩa vụ của toàn xã hội.

AI có thể tạo ra thế giới kỳ ảo, nhưng nếu không kiểm soát, nó dễ trở thành công cụ gây hoang mang và sai lệch nhận thức. (Nguồn: loveonly.ai/Instagram)

Bên cạnh đó, cơ quan chức năng cần phối hợp chặt chẽ với các công ty công nghệ để xây dựng quy trình phản ứng phù hợp. Khi một trò đùa AI dẫn đến cuộc gọi khẩn cấp, sự lãng phí nguồn lực và nguy cơ phản ứng quá mức là điều không thể xem nhẹ.

https://vtcnews.vn/ai-bien-nguoi-vo-gia-cu-thanh-tro-dua-canh-sat-my-canh-bao-ar970842.html