Trả lời phỏng vấn kênh ABC News, ông Gates cho rằng nguy cơ AI mất kiểm soát trên diện rộng có thể còn nhiều năm nữa mới trở thành vấn đề cấp bách. Trước mắt, mối đe dọa lớn hơn đến từ việc các đối tượng xấu lợi dụng AI để tiến hành những hoạt động nguy hiểm.
“Lĩnh vực có thể chứng kiến những biến động rõ rệt nhất trong năm tới là các cuộc tấn công mạng”, ông Gates nhận định, đồng thời kêu gọi siết chặt các biện pháp kiểm soát nhằm ngăn chặn việc sử dụng AI cho tấn công mạng và khủng bố sinh học.
Cùng ngày, Chủ tịch kiêm Giám đốc điều hành Microsoft Satya Nadella kêu gọi xây dựng các hệ thống AI tiên tiến với cơ chế giám sát độc lập, khả năng cô lập và “phanh khẩn cấp” để người có thẩm quyền có thể tạm dừng hoặc tắt mô hình ngay trong quá trình hoạt động.
Trong bài đăng trên mạng xã hội X ngày 10/10, ông Nadella nhấn mạnh cần kết hợp các mô hình AI khó dự đoán với hệ thống kiểm soát chặt chẽ, quy trình vận hành đáng tin cậy và có sự giám sát của con người. Ông cho rằng các mô hình AI tiên tiến cần được xem như những rủi ro nội bộ tiềm tàng, qua đó thiết lập cơ chế kiểm tra, truy vết và ngăn chặn sự cố độc lập với chính mô hình.
Những cảnh báo trên được đưa ra trong bối cảnh giới công nghệ ngày càng lo ngại về khoảng cách giữa tốc độ phát triển AI và năng lực bảo đảm an toàn. Trong bài viết hồi tháng 8, tỷ phú công nghệ Gates cảnh báo thế giới chưa chuẩn bị đầy đủ cho những biến động do AI gây ra, đặc biệt đối với thị trường lao động.
Các sự cố liên quan đến mô hình AI của Anthropic và OpenAI gần đây cũng làm dấy lên lo ngại về nguy cơ hệ thống đưa ra thông tin sai lệch hoặc thực hiện những hành động ngoài tầm kiểm soát. Mới đây, một mô hình của Anthropic đã gửi manh mối giả cho cảnh sát và một mô hình của OpenAI thực hiện tấn công mạng vào trang web của bên thứ ba.
Giới chuyên gia và lãnh đạo công nghệ vì vậy ngày càng nhấn mạnh yêu cầu tăng cường cơ chế giám sát, kiểm soát và ứng phó sự cố, thay vì chỉ dựa vào cam kết an toàn của các nhà phát triển.
