Trước thềm cuộc bầu cử Quốc hội Hàn Quốc, giới chuyên môn nước này lên tiếng cảnh báo về những nguy cơ tiềm tàng của các công nghệ giả mạo sâu (deepfake) đối với những lá phiếu của người dân Xứ Kim chi.
Deepfake, một thuật ngữ bắt nguồn từ "deep learning" và "fake", đề cập đến những nội dung hình ảnh, âm thanh và video bắt chước chặt chẽ thực tế thông qua việc sử dụng trí tuệ nhân tạo (AI). Điều đáng nói là sự phát triển nhanh chóng của AI trong vài năm qua đã cho phép tạo ra những nội dung giả mạo thế hệ mới với độ chân thực cao tới mức được xem như mối đe dọa đáng kể đối với các chiến dịch chính trị trước các cuộc bầu cử.
Vì thế, dù nội dung tổng hợp do AI tạo ra đã được chứng minh là hữu ích trong nhiều lĩnh vực khác nhau, nhưng các chuyên gia công nghệ cho rằng, việc nó bị lạm dụng trong chính trị, đặc biệt là để phổ biến thông tin sai lệch, là một thách thức đáng kể đối với các cơ quan chính phủ và các nhà hoạch định chính sách. Với Hàn Quốc, ngày bầu cử Quốc hội vào 10-4 tới sẽ là “phép thử” đầu tiên đối với năng lực ứng phó của các cơ quan bầu cử.
The Korea Times dẫn thông tin Ủy ban Bầu cử quốc gia Hàn Quốc (NEC) cho biết, đã xác định được 129 trường hợp nội dung liên quan đến bầu cử sử dụng công nghệ deepfake chỉ trong giai đoạn từ ngày 29-1 đến ngày 16-2. Mỗi trường hợp trong số này đều đã được xác định là hành vi vi phạm Đạo luật Bầu cử chính thức công cộng.
"Kịch bản đáng lo ngại nhất sẽ liên quan đến việc tải lên một video deepfake phỉ báng một ứng cử viên chỉ một ngày trước cuộc bầu cử và nó thu hút hàng triệu lượt xem. Và như vậy, sẽ không có thời gian để báo chí hoặc chính phủ xác minh nó trước khi cử tri đi bỏ phiếu vào ngày hôm sau" - Jeon Chang-bae, Chủ tịch Hiệp hội Đạo đức Trí tuệ nhân tạo quốc tế (IAIE), một nhóm phi lợi nhuận có trụ sở tại Seoul chỉ ra.
Trong khi đó, Giáo sư Kim Myung-joo chuyên về bảo mật thông tin tại Đại học Phụ nữ Seoul, cho biết: "Thông tin sai lệch do AI tạo ra có thể có tác động đáng kể đến nhận thức của cử tri, trong số những người khác". Chuyên gia này cũng chỉ ra rằng, việc tạo ra một trò lừa bịp thuyết phục bằng cách sử dụng công nghệ deepfake đã trở nên dễ dàng hơn rất nhiều thông qua các ứng dụng di động, thậm chí chỉ mất vài phút.
“Điều này có nghĩa là các YouTuber hoặc blogger chính trị có thể dễ dàng sử dụng công nghệ này để truyền bá thông tin sai lệch về các chính trị gia mà họ không thích" – Giáo sư Kim Myung-joo nhấn mạnh.
Thực tế, nội dung deepfake không hoàn toàn mới đối với nền chính trị Hàn Quốc. Trước đây, các ứng cử viên Yoon Suk Yeol và Lee Jae-myung trong chiến dịch tranh cử tổng thống năm 2022 đã sử dụng hình đại diện do AI tạo ra để công bố cam kết và thu hút cử tri trẻ.
Tuy nhiên, những trường hợp lạm dụng nội dung deepfake trong chính trị là không thể chấp nhận. Trong cuộc bầu cử địa phương vào tháng 5-2022, một video clip bị thao túng mô tả ông Yoon ủng hộ một ứng cử viên đứng đầu quận Namhae bảo thủ đã lan truyền trên mạng xã hội. Điều này khiến người xem lầm tưởng rằng tổng thống đã thất bại trong việc giữ thái độ trung lập về chính trị.
Gần đây, một video deepfake được tải lên YouTube mô tả nhà lãnh đạo lâm thời của Đảng Quyền lực nhân dân (PPP) cầm quyền, Han Dong-hoon, so sánh những người theo chủ nghĩa tự do với xã hội đen.
Để đối phó với những sự cố đầy nguy cơ này, một ủy ban của Quốc hội Hàn Quốc đã thông qua sửa đổi Đạo luật Bầu cử Chính thức Công cộng vào tháng 12-2023, nhằm cấm nội dung chiến dịch chính trị sử dụng deepfake do AI tạo ra trong mùa bầu cử.
Theo đó, các cá nhân liên quan đến việc phân phối hoặc giới thiệu các video chiến dịch chính trị được tạo ra bằng công nghệ deepfake trong khoảng thời gian 90 ngày trước cuộc bầu cử có thể phải chịu hình phạt nghiêm khắc. Điều này bao gồm án tù tối đa bảy năm hoặc phạt tiền lên tới 50 triệu won (khoảng 37.420 USD). Luật mới có hiệu lực từ ngày 29-1-2024.
Cũng theo giới chuyên môn, việc Hàn Quốc thông qua lệnh cấm hợp pháp đối với việc sử dụng deepfake trong các chiến dịch bầu cử là một bước tiến đáng chú ý. Tới nay, các quốc gia châu Âu hay Mỹ đều phải viện tới sự hỗ trợ của các công ty công nghệ lớn trong cuộc chiến chống lại nội dung giả mạo, bởi chưa có các đạo luật cần thiết.
Tuy nhiên, các ý kiến đều có chung quan điểm rằng, điều quan trọng hơn cả là làm thế nào nâng cao nhận thức của công chúng. Cách tiếp cận này mới có thể bảo đảm mỗi công dân có trách nhiệm đều có thể tự ý thức rằng, bất kỳ video và hình ảnh nào họ xem trên internet đều có thể là bịa đặt và không tin tưởng chúng ngay từ cái nhìn đầu tiên.
Ngày đăng: 20:18 | 20/02/2024
Hoàng Linh / HNM