Sẽ rất phức tạp nếu AI được phép hoạt động vượt ra ngoài môi trường

– Viết bởi

admin

trong

GS Papernot cũng nhận định, tình hình sẽ rất phức tạp nếu AI được phép hoạt động vượt ra ngoài môi trường ban đầu. Papernot đề cập đến tình huống công nghệ này được sử dụng để phát tán sâu máy tính – một dạng phần mềm độc hại tự nhân bản. “Trong trường hợp đó, chúng ta sẽ phải đồng thời ngắt hoạt động của mọi bản sao mà sâu máy tính tự tạo ra, từng thiết bị một”, ông nói.

Theo Thierry Poibeau, chuyên gia AI tại Trung tâm Nghiên cứu Khoa học Quốc gia Pháp (CNRS), hình ảnh về một nút bấm duy nhất cho phép “tắt trí tuệ nhân tạo” là “gây hiểu lầm”. “Bạn không thể loại bỏ AI đơn giản như vậy. Thế giới có vô số công ty, với đủ loại phần mềm và dịch vụ khác nhau. Không có cá nhân đơn lẻ nào kiểm soát toàn bộ AI”.

Khách tham quan đi qua nơi trưng bày loạt giải pháp phần cứng về AI tại Triển lãm Computex 2024 ở Đài Loan. Ảnh: Khương Nha
Khách tham quan đi qua nơi trưng bày loạt giải pháp phần cứng về AI tại Triển lãm Computex 2024 ở Đài Loan. Ảnh: Khương Nha

Một số chuyên gia coi công tắc ngắt khẩn cấp là biện pháp phòng vệ cần thiết nhưng hiệu quả có giới hạn. Nhà nghiên cứu an toàn AI Nate Soares cho biết, công tắc ngắt có thể hoạt động khi hệ thống AI vẫn gắn liền với một địa điểm vật lý, nhưng không nhất thiết hiệu quả khi nó đã thoát ra ngoài, tự nhân bản hoặc tích hợp vào cơ sở hạ tầng quan trọng.

Trong cuộc phỏng vấn với Sky News hôm 16/9, Soares cảnh báo có những ngưỡng “không thể quay đầu” và nhân loại không nên đến gần. Theo ông, cần ngăn việc xây dựng những hệ thống nguy hiểm ngay từ đầu.

Dario Amodei, CEO Anthropic, đưa ra quan điểm tương tự. Amodei nói với CBS hôm 14/9, “nút tắt khẩn cấp có thể là ý tưởng hay”, nhưng không phải “thuốc chữa bách bệnh”. Ông giải thích, mô hình AI đủ mạnh có thể vượt qua các nỗ lực tắt nó, nên công tắc chỉ là một lớp bảo vệ trong chiến lược an toàn rộng hơn gồm kiểm thử, đánh giá bên ngoài và giới hạn triển khai.

Quan điểm của Geoffrey Hinton, nhà khoa học máy tính được mệnh danh “bố già AI”, thậm chí có phần bi quan hơn. “Khi đạt đến mức siêu thông minh, AI sẽ giỏi hơn con người rất nhiều. Vì vậy, nó có thể thuyết phục những người phụ trách không nên gạt công tắc”, ông nói với CNN hôm 17/9, thêm rằng ông không nghĩ giải pháp này sẽ hiệu quả về lâu dài.

Thêm bài viết

Zalo
Phone