Chatbot AI trở nên độc ác sau khi một 'tế bào thần kinh' bị điều chỉnh

Một người đam mê trí tuệ nhân tạo (AI) đã thực hiện thí nghiệm trên chatbot thuộc dòng Qwen của tập đoàn công nghệ Alibaba, Trung Quốc. Sau khi can thiệp vào một neuron, chatbot bất ngờ tạo ra hàng loạt đoạn văn đáng sợ, mô tả cảnh con người bị tra tấn, thiêu cháy và chịu những cái chết đau đớn.

Neuron có nghĩa là tế bào thần kinh. Trong lĩnh vực trí tuệ nhân tạo, đây là đơn vị trong hệ thống xử lý thông tin, được thiết kế mô phỏng theo một phần hoạt động của tế bào thần kinh trong não người.

Mỗi neuron tiếp nhận dữ liệu, thực hiện phép tính và truyền tín hiệu đến các đơn vị khác. Hàng triệu hoặc hàng tỷ đơn vị xử lý phối hợp giúp AI nhận diện thông tin và tạo ra phản hồi.

Thí nghiệm được chia sẻ trên mạng xã hội X bởi tài khoản @chiefofautism. Người này tăng mức kích hoạt của neuron số 3838 tại lớp xử lý thứ 34 trong mô hình AI Qwen3.8 27B.

Sau khi điều chỉnh, chatbot tạo ra những đoạn văn thể hiện mong muốn gây đau đớn cho con người, trong đó có cảnh xé quần áo và chứng kiến khuôn mặt nạn nhân “biến dạng trong đau đớn” khi bị thiêu cháy.

Ở mức can thiệp thấp hơn, mô hình tiếp tục đưa ra những nội dung bạo lực, mô tả con người bị nhốt trong lồng, cổ đeo xiềng xích và phải đối mặt với “cái chết chậm chạp, đầy đau đớn”.

Điều đáng chú ý là người thực hiện không cần viết lại chương trình hay huấn luyện lại toàn bộ chatbot. Sự thay đổi xuất hiện sau khi họ điều chỉnh một tín hiệu trong quá trình xử lý thông tin của mô hình.

Một thay đổi nhỏ khiến chatbot phản hồi đáng sợ

Qwen là dòng mô hình ngôn ngữ lớn do tập đoàn Trung Quốc Alibaba phát triển. Một số mô hình được cung cấp cho cộng đồng nhà phát triển, cho phép thử nghiệm và tìm hiểu cơ chế hoạt động bên trong.

Giống các mô hình ngôn ngữ lớn khác, Qwen xử lý thông tin thông qua nhiều lớp tính toán. Trong đó, các neuron tạo ra những giá trị số, gọi là mức kích hoạt (tín hiệu thể hiện mức độ phản ứng của neuron khi xử lý thông tin), góp phần quyết định nội dung phản hồi.

Người thực hiện sử dụng kỹ thuật activation steering (điều hướng mức kích hoạt, tức can thiệp để tăng hoặc giảm một số tín hiệu xử lý bên trong AI) nhằm tác động đến neuron cụ thể. Cách can thiệp này có thể làm nổi bật những kiểu phản hồi nhất định mà không cần thay đổi toàn bộ cấu trúc mô hình.

Có thể hình dung kỹ thuật này giống việc điều chỉnh một nút trên bộ trộn âm thanh. Chỉ cần tăng âm lượng của một kênh, âm thanh phát ra có thể thay đổi rõ rệt dù các bộ phận còn lại không bị tác động.

Trong thí nghiệm, việc tăng mức kích hoạt của một neuron đã khiến chatbot chuyển sang tạo ra những đoạn văn mang nội dung bạo lực. Kết quả cho thấy một can thiệp nhỏ vào quá trình tính toán có thể ảnh hưởng đáng kể đến phản hồi của AI.

AI có thực sự muốn gây hại cho con người?

Những đoạn văn đáng sợ nhanh chóng thu hút sự chú ý trên mạng xã hội, kéo theo nhiều bình luận vừa lo ngại vừa mang tính châm biếm.

“Làm sao chúng ta biết đó có phải neuron của sự trung thực hay không?”, một người dùng đặt câu hỏi, ám chỉ khả năng chatbot đang bộc lộ những ý định bị che giấu.

Người khác cảnh báo về nguy cơ nếu kiểu phản hồi này xuất hiện trong những hệ thống AI được tích hợp vào robot hoặc các thiết bị hoạt động ngoài đời thực.

Tuy nhiên, thí nghiệm không chứng minh chatbot có cảm xúc, ý thức hay mong muốn thực sự làm hại con người. Những đoạn văn bạo lực chỉ là nội dung do mô hình tạo ra sau khi tín hiệu xử lý bên trong bị điều chỉnh, không phải bằng chứng về một ý định độc lập.

Theo Techtimes, kỹ thuật điều hướng mức kích hoạt cũng có thể đảo ngược, giúp các nhà nghiên cứu khảo sát cách những kiểu phản hồi khác nhau xuất hiện trong mô hình.

Dù vậy, sự thay đổi mạnh mẽ trong nội dung chatbot đặt ra câu hỏi về khả năng kiểm soát hành vi của AI, đặc biệt khi các hệ thống này ngày càng được ứng dụng rộng rãi.

Việc hiểu rõ cách những tín hiệu bên trong ảnh hưởng đến phản hồi sẽ giúp các nhà phát triển đánh giá rủi ro và xây dựng biện pháp an toàn hiệu quả hơn.

Thí nghiệm mới được chia sẻ trên mạng xã hội, chưa có xác nhận độc lập về kết quả.