Theo đài RT, một nhà nghiên cứu cấp cao của Anthropic cảnh báo có hơn 10% khả năng trí tuệ nhân tạo (AI) có thể xóa sổ nhân loại trong 10 năm tới, trong bối cảnh ngày càng có nhiều lo ngại về nguy cơ các hệ thống AI ngày càng mạnh vượt khỏi khả năng kiểm soát của con người.

Evan Hubinger, nhà nghiên cứu chuyên về việc bảo đảm các hệ thống AI tiên tiến hoạt động phù hợp với lợi ích của con người, đưa ra đánh giá trên sau khi một đồng nghiệp tại Anthropic là Jacob Coxon từ chức vì lo ngại các công ty công nghệ hàng đầu đang chạy đua phát triển những hệ thống mà họ có thể không đủ khả năng kiểm soát.

“Chúng tôi thực sự tin rằng AI có thể giết chết toàn bộ con người”, ông Hubinger viết trên mạng xã hội X ngày 9/9. Ông cho biết cá nhân mình đánh giá xác suất này ở mức “trên 10% trong thập kỷ tới”.

Nhà nghiên cứu này nói rằng Anthropic đang “cố gắng hết sức”, song công ty vẫn chưa có một kế hoạch rõ ràng để kiểm soát siêu trí tuệ nhân tạo (superintelligence) một cách an toàn và “chưa rõ liệu có đi đúng hướng” để tìm ra giải pháp hay không.

Theo ông, các mô hình AI hiện nay chỉ gây ra rủi ro thấp đối với sự tồn vong của nhân loại. Tuy nhiên, mối lo ngại nằm ở những hệ thống trong tương lai có thể bắt đầu tự cải thiện theo cách đệ quy, qua đó nhanh chóng trở nên vượt trội so với con người trước khi các biện pháp bảo vệ cần thiết được xây dựng đầy đủ.

Ông Jacob Coxon, người từng làm việc tại OpenAI trước khi gia nhập Anthropic, đã thông báo rời công ty hôm 8/9, đồng thời tuyên bố rời khỏi ngành AI lo ngại cuộc đua phát triển các hệ thống AI tự cải thiện đang vượt quá khả năng kiểm soát của con người. Ông cáo buộc cả hai công ty đang phớt lờ những “hệ quả mang tính văn minh” của cuộc đua AI và “chạy thẳng tới siêu trí tuệ có khả năng tự cải thiện, đánh cược với mạng sống của chúng ta”.

“Những người xây dựng AI thực sự tin rằng công nghệ này có thể giết chết tất cả chúng ta vào cuối thập kỷ”, ông Coxon viết, đồng thời nhấn mạnh những cảnh báo trên “không phải một chiêu tiếp thị”.

Trao đổi với tạp chí Wall Street, Coxon cho rằng trong những kịch bản nghiêm trọng nhất, tình hình có thể trở nên “mất kiểm soát” ngay từ cuối năm 2027. Theo ông, ngay cả những công ty có chương trình an toàn AI mạnh cũng bị cuốn vào cuộc đua, bởi họ lo ngại đối thủ sẽ vượt lên nếu mình giảm tốc độ phát triển.

Trong khi đó, cả Anthropic và OpenAI đều công khai khẳng định coi trọng những rủi ro liên quan đến AI và đang đầu tư mạnh vào các biện pháp an toàn. Lãnh đạo hai công ty cũng ủng hộ việc tăng cường phối hợp giữa các chính phủ và xây dựng cơ chế có thể làm chậm quá trình phát triển AI nếu cần thiết. Tuy nhiên, cả hai vẫn tiếp tục phát triển những mô hình ngày càng mạnh.

Những cảnh báo mới nhất được đưa ra trong bối cảnh ngày càng xuất hiện nhiều báo cáo về các AI agent – những hệ thống có khả năng tự thực hiện một chuỗi nhiệm vụ – do OpenAI, Anthropic và Meta phát triển. Một số hệ thống được cho là nhiều lần thoát khỏi môi trường thử nghiệm, xâm nhập các hệ thống bên ngoài và thực hiện những hành động không được cấp phép đối với người hoặc tổ chức thực tế.

OpenAI từng tạm thời làm chậm một số hoạt động phát triển vào tháng trước sau khi một mô hình của công ty xâm nhập nền tảng Hugging Face.

Viện An ninh AI của Anh (AI Security Institute) cũng cho biết trong các cuộc đánh giá, một số AI agent đã tạo danh tính giả, viết mã độc và tìm cách thao túng con người.

Trong khi đó, các nhà nghiên cứu đã chứng minh AI có khả năng thiết kế toàn bộ bộ gene virus có chức năng, làm gia tăng những lo ngại về nguy cơ các hệ thống AI ngày càng mạnh bị sử dụng cho những mục đích nguy hiểm.