Nhân viên Google từ chức vì lo AI phát triển quá nhanh

Callahan cũng bày tỏ lo ngại về những vấn đề khác liên quan đến AI như “đầu hàng nhận thức” – thuật ngữ chỉ những người tin tưởng mù quáng vào lời khuyên của AI, chứng loạn thần và sự cô đơn do AI gây ra, tình trạng xáo trộn kinh tế, an ninh mạng. Ông cho rằng lợi ích tiềm năng của AI hiện chưa rõ ràng và tác động tiêu cực có thể còn lớn hơn tích cực.

“Tôi tin những người tại các phòng thí nghiệm AI đang lên tiếng cảnh báo nhìn chung đều chân thành. Tôi chưa thấy bằng chứng xác thực nào cho thấy họ đang thổi phồng rủi ro nhằm tăng giá cổ phiếu công ty hay loại bỏ đối thủ cạnh tranh bằng cách siết chặt quy định”, ông viết.

Business Insider cho biết khi liên hệ, O’Callahan dẫn lại bài viết trên blog, trong khi Google từ chối bình luận.

O’Callahan là người mới nhất trong làn sóng nghỉ việc tại các phòng thí nghiệm AI do lo ngại về an toàn. Theo The Information, hai nhà nghiên cứu AI Josh Engels và Bilal Chughtai tại Google DeepMind tháng này đều thông báo nghỉ việc. Engels, từng làm một năm tại DeepMind, sẽ gia nhập tổ chức nghiên cứu an toàn AI độc lập METR. Chughtai, thâm niên 18 tháng tại DeepMind, sẽ chuyển đến BlueDot Impact, tổ chức phi lợi nhuận cung cấp các khóa học về an toàn AI.

“Tôi thực sự tin trí tuệ nhân tạo có tiềm năng giết chết tất cả chúng ta, và chúng ta có thể sắp hết thời gian để tránh kết cục đó”, Chughtai viết trên X và LinkedIn.

Trước đó, ngày 9/9, Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic và từng làm cho OpenAI, cũng tuyên bố từ chức, khẳng định hai công ty không hành động một cách có trách nhiệm. “Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược với cuộc sống của chúng ta”, Coxon viết trên X.

Coxon chia sẻ, bản thân không muốn tham gia cuộc đua giữa các công ty nhằm đạt đến trạng thái mà con người không còn kiểm soát được AI, đồng thời cảnh báo AI có thể hủy diệt nhân loại.