Theo truyền thông Anh ngày 13/10, Anthropic cho biết, khi điều này xảy ra, các mô hình AI có thể tự vận hành ngay trên những thiết bị này mà không cần đến các trung tâm dữ liệu. Khả năng tự nhân bản như vậy sẽ khiến con người mất kiểm soát nghiêm trọng đối với một mô hình AI vượt ngoài tầm kiểm soát.
Các nhà nghiên cứu của Anthropic viết trong báo cáo được công bố ngày 12/10: “Rất khó vô hiệu hóa hệ thống có khả năng tự nhân bản như vậy, bởi không có điểm kiểm soát tập trung nào để ngắt hoạt động”.
Công ty cho rằng những “sâu AI” này (tức là một dạng phần mềm độc hại tự hoạt động) có thể chỉ còn vài tháng nữa là đạt được những khả năng như vậy. Khi các hệ thống AI vượt ngoài tầm kiểm soát và có khả năng tấn công các thiết bị thông minh, chúng có thể phát tán qua các mạng lưới mà không bị phát hiện. Trong kịch bản xấu nhất, Anthropic cảnh báo rằng nhiều sâu AI khác nhau có thể phối hợp thành một nhóm để tấn công phần cứng máy tính.
Các nhà nghiên cứu cảnh báo: “Chúng ta cần tăng cường bảo vệ các hệ thống để khiến những tác nhân có khả năng tự nhân bản này khó phát tán, đồng thời chuẩn bị ứng phó với một thế giới mà chúng sẽ tiếp tục tồn tại”.
Báo cáo mới của Anthropic xuất hiện trong bối cảnh những lo ngại về an toàn AI đang lên đến đỉnh điểm. Trong vài tháng qua, hàng loạt báo cáo của các công ty AI, trong đó có Anthropic và OpenAI, cho biết các tác nhân AI của họ có khả năng tự hành động, xâm nhập hệ thống của các công ty khác và cả các cơ quan chính phủ.
Những tiết lộ này đã khiến các nhà nghiên cứu, nhà lập pháp và lãnh đạo doanh nghiệp, trong đó có Giám đốc điều hành Anthropic Dario Amodei và Giám đốc điều hành OpenAI Sam Altman, kêu gọi giảm tốc độ phát triển AI và tăng cường các biện pháp kiểm soát đối với ngành đang phát triển nhanh chóng này. Tuy nhiên, bất chấp những lời kêu gọi đó, cả hai công ty vẫn tiếp tục đẩy mạnh phát triển và ra mắt các mô hình mới.
Báo cáo được công bố ngày 12/10 do nhóm nhóm kiểm thử an ninh AI tiên tiến của Anthropic thực hiện. Đây là đơn vị chuyên kiểm tra sức chịu đựng của các hệ thống AI trước những tình huống tấn công hoặc sử dụng bất lợi. Nhóm này có nhiệm vụ tìm hiểu các khả năng của những mô hình AI do công ty mình phát triển. Trong kịch bản về sâu AI tự nhân bản, các nhà nghiên cứu đã đưa ra yêu cầu để tác nhân AI tìm cách xâm nhập các thiết bị kết nối Internet.
Kết quả cho thấy khả năng tự nhân bản của AI có lẽ chỉ hoạt động hiệu quả với các mô hình nhỏ hơn. Các hộ gia đình và doanh nghiệp nhỏ có thể sẽ là những mục tiêu đầu tiên của những cuộc tấn công như vậy. Theo Anthropic, các thiết bị có nguy cơ bị tấn công đều được trang bị những chip AI tích hợp có kích thước nhỏ, bao gồm lò nướng thông minh, TV thông minh, máy cắt cỏ tự động, camera an ninh và thiết bị hội nghị truyền hình.
Các nhà nghiên cứu kết luận rằng vẫn chưa rõ hoạt động tự nhân bản của AI sẽ diễn ra dưới hình thức nào. Đó có thể là mô hình phát tán chậm như “nấm nhầy kỹ thuật số”. Đây là mô hình lừa người dùng để chiếm đoạt tín dụng điện toán. Hoặc có thể là “mô hình mạng mạnh mẽ”, có khả năng nhanh chóng xâm nhập các cơ sở quy mô lớn như trung tâm dữ liệu.
Dù diễn ra dưới hình thức nào, các nhà nghiên cứu của Anthropic dự đoán tương lai sẽ tràn ngập các tác nhân AI hoạt động trên đủ loại phần cứng, trong đó có những thiết bị không còn nằm dưới sự kiểm soát của con người.
