Việc dùng AI để cắt ghép, chỉnh sửa khuôn mặt đang được áp dụng ngày càng nhiều trong các video gợi dục.
Cuộc tranh cãi về mức độ trầm trọng của deepfake vẫn chưa tới hồi kết. Theo Deeptrace, một start-up ở Amsterdam chuyên phát hiện nội dung do AI thao túng, hiện có khoảng 14.678 video deepfake trên Internet, tăng 84% so với mức 7.964 video tính đến tháng 12/2018.
Trong khi truyền thông lo ngại về nguy cơ deepfake trở thành công cụ trong chiến tranh thông tin phục vụ mục đích chính trị, Deeptrace lại phát hiện vấn đề cấp thiết hơn mà công nghệ này đặt ra liên quan đến nội dung khiêu dâm. Trong báo cáo đầu tuần này, Deeptrace cho biết có tới 96% video deepfake có nội dung đồi truỵ và tất cả nhân vật khiêu dâm trong đó đều là phụ nữ.
 |
| Một phụ nữ được tạo ra nhờ Deepfake với vẻ ngoài giống diễn viên Emma Watson. Ảnh: Stern. |
Giorgio Patrini, CEO kiêm trưởng nhóm khoa học của Deeptrace, cho biết họ đã theo dõi sự gia tăng của deepfake suốt bảy tháng qua và các video có nội dung sai lệch lại thường được phát tán rất nhanh. Ngay cả khi nhiều đoạn deepfake trông không giống người thực, người xem vẫn bị ảnh hưởng về nhận thức. "Đây là mối đe doạ đáng nghi ngại cho mạng xã hội", Patrini nói.
Deepfake là từ kết hợp của "deep learning" (học sâu) và "fake" (giả mạo) nhằm miêu tả công nghệ trí tuệ nhân tạo (AI) có khả năng học hỏi từ con người và hành động, nói những điều họ chưa từng làm. Các video deepfake đầu tiên được tung ra trên Reddit năm 2017, có nội dung là người nổi tiếng hoán đổi gương mặt vào các ngôi sao phim cấp ba.
Nỗ lực định lượng video deepfake trên mạng của Deeptrace được đánh giá cao bởi công nghệ này vẫn còn non trẻ và các video bị phân tán khắp nơi, khó biết chúng nằm ở những đâu trong khi các nhà làm nội dung cũng không bao giờ gắn mác video của mình là deepfake.
15.000 video deepfake thực chất chỉ là số nhỏ trong vô số nội dung trực tuyến. Tuy vậy, khi cuộc bầu cử tổng thống Mỹ năm 2020 đang đến gần, các quan chức chính phủ cũng như chính trị gia của Mỹ lo ngại liệu những video này có được sử dụng để đánh lừa cử tri, gây ảnh hưởng đến phiếu bầu hay không.
Các công ty như Facebook hay Google cũng cảnh báo nguy cơ deepfake bị phát tán rộng rãi trên mạng xã hội. Vì vậy, họ đã tạo ra các kho dữ liệu deepfake với hy vọng hỗ trợ các nhà nghiên cứu tìm cách chống lại loại nội dung giả mạo.
Patrini cho biết họ đang theo dõi chặt chẽ các nội dung deepfake để phát hiện mối đe doạ tiềm ẩn, ví dụ các công cụ, quá trình tạo ra video deepfake hay nơi thường được chia sẻ hoặc nguồn phát tán các phần mềm, hướng dẫn làm video deepfake.
"Mô hình hoá đối thủ của bạn là bước đầu tiên để thiết kế, phát triển giải pháp đối phó vấn đề deepfake", ông nói và cho rằng công nghệ phát hiện deepfake phải liên tục thay đổi bởi cách thức làm ra nội dung deepfake cũng đang ngày càng tinh vi hơn theo thời gian.
Để đếm video deepfake, Deeptrace sử dụng một công cụ tự động nhằm theo dõi các cộng đồng trực tuyến, nơi người dùng thường trao đổi và bàn luận về các nội dung liên quan, trong đó có các web phổ biến như Reddit hay YouTube. Các ví dụ được đưa ra trong báo cáo là hình ảnh deepfake của cựu tổng thống Barack Obama được sử dụng với mục đích châm biến chính trị hay hình ảnh giả mạo CEO Facebook Mark Zuckerberg như một phần của nghệ thuật sắp đặt.
Phần lớn video deepfake mà Deeptrace tìm được đều từ website khiêu dâm, trong đó có riêng một trang cung cấp cho người dùng các loại phim deepfake với diễn viên nữ có khuôn mặt được thay bằng hình ảnh người nổi tiếng nào đó. Tất cả đều được gắn quảng cáo.
Khi thực hiện cuộc khảo sát trên 9 trang web khiêu dâm tập trung vào nội dung deepfake, công ty này phát hiện tới 13.000 nội dung liên quan. Bên cạnh đó, họ nhận thấy 8 trên 10 website khiêu dâm được xem nhiều nhất đều chứa deepfake.
Một số doanh nghiệp và cá nhân cũng đã bắt đầu cung cấp dịch vụ deepfake. Cụ thể, có một bên cung cấp dịch vụ quảng cáo rằng họ có thể tạo ra video giả mạo trong hai ngày nếu khách hàng đưa cho họ 250 ảnh nhân vật mà họ muốn xuất hiện trong phim. Giá của mỗi video như vậy được rao bán từ 3 USD.
Mặc dù Deeptrace chỉ khảo sát trên các website tiếng Anh, Patrini vẫn bất ngờ khi thấy nhiều video được tạo ra có hình ảnh giả mạo người nổi tiếng từ châu Á, cả nội dung khiêu dâm lẫn bình thường.
Sam Gregory, Giám đốc của tổ chức bảo vệ nhân quyền phi lợi nhuận Witness, cho biết sự gia tăng của nội dung deepfake là vấn đề đáng lo ngại. "Dù chúng không tăng lên theo cấp số nhân, số lượng vẫn rất đáng kể", ông nói.
Đức Trí (theo CNN)
 Dùng DeepFake giả giọng "sếp" để lừa tiền |
 Ghép mặt người nổi tiếng vào phim khiêu dâm - trào lưu đang bị lên án ở Trung Quốc |
