Trung tâm Tiêu chuẩn và Đổi mới AI (CAISI) trực thuộc DOC cho biết sẽ tiến hành các đánh giá trước khi triển khai và nghiên cứu mục tiêu nhằm hiểu rõ hơn về năng lực và rủi ro của những công cụ mới.
Các thỏa thuận trước đây với Anthropic và OpenAI cũng đã được điều chỉnh lại để phù hợp với chỉ thị mới về kiểm tra an ninh từ Bộ trưởng Thương mại Howard Lutnick và Tổng thống Donald Trump.
Động thái này diễn ra trong lúc có lo ngại gia tăng về các công cụ AI mới như mô hình Mythos của Anthropic, mà những lãnh đạo công ty cảnh báo có thể dẫn đến các vụ tấn công mạng và khủng bố nếu rơi vào tay đối tượng xấu.
Google DeepMind không đưa ra bình luận, nhưng một phó chủ tịch của đơn vị này xác nhận quan hệ hợp tác trong một bài đăng trên mạng xã hội.
Giám đốc CAISI Chris Fall cho biết khoa học đo lường độc lập là cần thiết để hiểu các hệ thống AI tiên tiến và tác động của chúng đối với an ninh quốc gia. Những hợp tác mở rộng với khu vực tư nhân giúp tăng quy mô công việc vì lợi ích công cộng trong thời điểm quan trọng.
Trung tâm này được thành lập năm 2023 dưới thời chính quyền Tổng thống Joe Biden với tên gọi Viện An toàn AI Mỹ (USAISI) và đến thời chính quyền Tổng thống Trump đã được đổi tên, với mục tiêu thúc đẩy việc đưa các mô hình mới ra thị trường nhanh hơn. Ông Trump từng nhấn mạnh nhu cầu tăng tốc phát triển công nghệ để vượt Trung Quốc trong cuộc đua AI toàn cầu.
Một phân tích từ chính Anthropic cho thấy mô hình Mythos có thể khai thác các hệ thống như lưới điện, nhà máy điện và bệnh viện nếu bị tấn công. Công ty cho biết mô hình đã phát hiện hàng nghìn lỗ hổng nghiêm trọng trong các hệ điều hành và trình duyệt web lớn.
Anthropic dự kiến chỉ cung cấp quyền truy cập hạn chế cho một số công ty như Amazon, Google và JPMorgan. Trong khi OpenAI đang lên kế hoạch phát hành hạn chế mô hình mới GPT-5.5-Cyber do lo ngại về an ninh.
Một khảo sát của Trung tâm Nghiên cứu Pew vào năm ngoái cho thấy 50% cử tri Cộng hòa và 51% cử tri Dân chủ nói rằng họ lo ngại hơn là hào hứng về việc sử dụng AI trong đời sống hằng ngày.
