Khi công nghệ AI có khả năng chiếm quyền điều khiển của con người sẽ nguy hiểm tới đâu?

Hiện tại thế giới vẫn đang tranh luận rất tích cực về mức độ an toàn khi áp dụng AI vào đời sống con người. Mặc dù cho đến nay một AI hoàn thiện tính năng vẫn chưa được tạo ra, nhưng việc tự động hóa từ lâu đã là một phần trong các quy trình điều khiển và sản xuất. Ngày nay máy tính có thể lái ô tô, nhận dạng giọng nói và khuôn mặt, phân tích khối lượng dữ liệu khổng lồ.

Trí tuệ nhân tạo được ứng dụng trong rất nhiều lĩnh vực, và lĩnh vực quốc phòng cũng không phải là ngoại lệ. Việc chế tạo ra AI trở thành nhiệm vụ chiến lược đảm bảo an ninh của nhiều quốc gia. Trong thực tế, đang có một cuộc chạy đua toàn cầu trong việc chế tạo ra các loại vũ khí mới, thu hút sự tham gia của tất cả các cường quốc công nghệ hàng đầu.

Hiện các hệ thống tự động vẫn còn nhiều hạn chế, nhưng chính con người lại quyết định tích hợp chúng vào vũ khí. AI có chức năng thay con người đưa ra quyết định, đồng thời bảo vệ được sức khỏe và tính mạng cho quân nhân. Có rất nhiều phương án ứng dụng vũ khí có AI. Đó có thể là những chiếc tàu tên lửa, những chiếc xe bọc thép hay những chiếc máy bay không người lái có khả năng độc lập tìm kiếm và tiêu diệt mục tiêu.

Với sự trợ giúp của AI, giờ đây quân đội có thể thực hiện một cuộc tấn công hàng loạt chỉ với một phi đột máy bay không người lái. Đó chính là các hệ thống thông tin liên lạc quân sự và định vị toàn cầu có chức năng chỉ định tọa độ mục tiêu và đưa ra phương án tấn công.

Thậm chí AI còn được ứng dụng nhiều hơn ngoài vũ trụ. Người ta có thể tạo ra các nhóm vệ tinh quan sát mà không cần phải kiểm tra thường xuyên và nhập lệnh liên tục từ các trung tâm điều khiển trên Trái Đất.

Xung quanh vấn đề AI, dư luận đặt ra những câu hỏi: “Bộ não” nhân tạo liệu có thực hiện tấn công nhằm vào chính những người lính phe mình? Hay điều gì sẽ xảy ra nếu như các tin tặc chiếm được quyền điều khiển các cỗ máy quân sự có AI, vô hiệu hóa và điều khiển chúng quay lưng chống lại chính các đối tượng dân sự và quân sự phe mình?

Theo giải thích của các nhà phát triển AI, giải pháp cho vấn đề này chính là đưa thêm vào AI một máy tính đơn giản hoạt động dựa trên những bộ xử lý thông thường nhằm kiểm soát và hạn chế các hành động của trí tuệ nhân tạo. Tin tặc sẽ không thể hack được AI, bởi vì không giống như trí thông minh của máy tính, AI tự tạo ra cho mình các thuật toán hành vi một cách độc lập.

Điều quan trọng cần lưu ý đó là, khác với các siêu máy tính, AI hoạt động theo các thuật toán và nguyên tắc hoàn toàn khác. Như vậy là các cuộc tranh luận về cuộc nổi dậy của máy móc và đoàn quân “robot giết người” là những giả tưởng không có cơ sở khoa học.

Nhiệm vụ chính mà các nhà khoa học vẫn đang trăn trở đó là làm thế nào để tạo ra trí thông minh nhân tạo có thể tương đương với bộ não con người, nhưng đồng thời “không thể đi trước sáng kiến” của con người.

Bên cạnh đó cũng rất cần chú ý đến các vấn đề kỹ thuật phát sinh ngay cả trước khi một AI hoàn thiện tính năng ra đời, bao gồm cả trong lĩnh vực dân sự.

Ví dụ điển hình chính là sự cố máy bay Boeing-737 MAX 8 của hãng hàng không “Ethiopian Airlines”. Các chuyên gia chỉ ra rằng, những chiếc máy bay loại này, dù sau thảm họa hồi năm ngoái ở Indonesia, vẫn còn có những vấn đề liên quan đến “sự nghe lời” của các thiết bị điện tử trong khoang điều khiển.

Hệ thống lái tự động thực tế đã chiếm quyền điều khiển của các phi công trong chuyến bay. Công ty của Mỹ đã im lặng về vấn đề này. Tuy nhiên hai thảm họa với cùng một loại máy bay trong vòng vài tháng đã buộc chúng ta phải thừa nhận, rằng các hệ thống trên máy bay không những không giúp đỡ được nhiều cho các phi công, mà thậm chí còn hành động trái với “lệnh” của họ.

Điều gì đảm bảo rằng AI tích hợp trong vũ khí ở mức độ công nghệ như hiện nay sẽ không thể “chiếm quyền điều khiển” của con người. Đây là một câu hỏi quan trọng đối với những con người tham gia trong lĩnh vực này.

Ông Donald Trump quyết đánh bại Trung Quốc trong cuộc đua AI Những khoản đầu tư khổng lồ của Trung Quốc vào AI đang sinh trái ngọt. Điều này điều khiến cường quốc dẫn đầu về trí ...

Dự án AI này đã phải tạm ngừng vì quá nguy hiểm Phần mềm GPT-2 được huấn luyện chỉ để dự đoán từ tiếp theo trong câu. Tuy nhiên, sau đó, nó đã có thể bắt chước ...

Trí tuệ nhân tạo của Trung Quốc đang giúp học sinh kiểm tra bài tập về nhà Yuanfudao - công ty khởi nghiệp tại Bắc Kinh (Trung Quốc) đã phát triển một ứng dụng học toán sử dụng trí tuệ nhân tạo ...

Tương lai, AI có thể đọc được suy nghĩ trong đầu bạn Đọc được suy nghĩ của người khác có thể sẽ là siêu năng lực tiếp theo mà công nghệ có thể mang tới trong tương ...