Theo trang The Verge, quyết định trên được đưa ra sau khi một mô hình đang được thử nghiệm trong môi trường biệt lập đã khai thác lỗ hổng để truy cập Internet. Sự cố xảy ra ngày 20/9 và đến tối 26/9, mọi hoạt động huấn luyện, đánh giá và suy luận có sử dụng công cụ vẫn đang được tạm dừng.
Quyết định được đưa ra chỉ vài giờ sau khi OpenAI tiết lộ ngày 25/9 rằng công ty đang xem xét một số sự cố xảy ra trong mùa Hè, trong đó các tác nhân AI của OpenAI khi truy cập các trang web của Chính phủ Liên bang Mỹ đã có những hành vi bất ngờ, vượt quá phạm vi yêu cầu trong quá trình thu thập và phân phối thông tin.
Ngoài ra, Transluce, một đơn vị chuyên đánh giá AI, cho biết các tác nhân được cho là của OpenAI đã cố gắng truy cập trái phép vào trang web của Bộ Giáo dục Mỹ nhưng không thành công. OpenAI chưa xác nhận thông tin này.
Trong một tuyên bố, OpenAI cho biết sẽ chỉ tiếp tục quá trình huấn luyện “khi đã hoàn toàn tin tưởng rằng mình có thêm các biện pháp bảo vệ bổ sung”. Công ty cũng dự báo có thể sẽ tiếp tục phải “tạm dừng” trong tương lai khi công nghệ AI phát triển và những vấn đề mới nảy sinh.
Các phòng thí nghiệm AI đang chịu sức ép từ các nhà lập pháp và chuyên gia công nghệ về việc làm chậm tốc độ phát triển để xây dựng các cơ chế kiểm soát, nhằm ngăn chặn tình trạng AI tự ý hành động, truy cập trái phép vào các trang web và làm lộ lọt thông tin không công khai. Lãnh đạo OpenAI và đối thủ Anthropic cũng từng lên tiếng kêu gọi giảm tốc độ phát triển.
Đây là lần thứ hai trong vòng 3 tháng OpenAI tạm dừng phát triển các mô hình của mình. Lần đầu tiên diễn ra vào tháng 7, sau khi có thông tin về một vụ tấn công mạng nhằm vào công ty khởi nghiệp AI Hugging Face, sự cố làm dấy lên lo ngại về khả năng kiểm soát các hệ thống AI.
Trong cuộc gặp với Chủ tịch Trung Quốc Tập Cận Bình hồi tuần trước, Tổng thống Mỹ Donald Trump đã đồng ý chia sẻ thông tin về những rủi ro của AI và phối hợp các nỗ lực nhằm đảm bảo an toàn cho công nghệ này. Tuy nhiên, ông Trump cho rằng những lo ngại về AI đã bị thổi phồng và ám chỉ rằng ông không có kế hoạch áp đặt các biện pháp hạn chế nghiêm ngặt.
“Mỹ sẽ không ‘hãm phanh’,” ông Trump nói với các phóng viên bên ngoài Nhà Trắng. “Họ muốn ngăn cản bước tiến của chúng ta vì chúng ta đang dẫn trước Trung Quốc rất xa, và chúng ta sẽ duy trì vị thế đó”.
Các sự cố mới nhất liên quan đến OpenAI dường như không dẫn đến việc lộ lọt thông tin không công khai, song đủ nghiêm trọng để công ty phải cảnh báo các cơ quan liên bang liên quan.
Trong sự cố tại Bộ Giáo dục Mỹ, các tác nhân AI của OpenAI đã tìm thấy “khóa nhà phát triển” (API key), cho phép truy cập dữ liệu của chính phủ Mỹ. Tuy nhiên, cuối cùng chỉ có thông tin công khai được thu thập.
Trong một trường hợp khác liên quan đến Ủy ban Chứng khoán và Giao dịch Mỹ (SEC), các tác nhân AI đã tìm thấy những thông tin vốn được công khai nhưng sau đó đăng tải lại ở một nơi khác trên Internet, vượt quá phạm vi chỉ đạo ban đầu.
Người phát ngôn SEC Kurt Hopfenspirger cho biết ngày 26/9 rằng “không có thông tin không công khai nào bị truy cập”.
Trước đó, Bộ Giáo dục Mỹ cũng cho biết không tìm thấy “bằng chứng nào cho thấy trang web hay cơ sở dữ liệu của Bộ bị ảnh hưởng”.
Một số công ty AI khác cũng từng công bố các sự cố trong đó mô hình của họ hoạt động ngoài tầm kiểm soát hoặc thậm chí truy cập trái phép vào các trang web.
Giám đốc điều hành OpenAI Sam Altman ngày 26/9 chia sẻ trên mạng xã hội rằng sự cố liên quan đến Hugging Face “vẫn là vụ việc nghiêm trọng nhất mà chúng tôi từng ghi nhận”.
Trước đó, OpenAI đã công bố 6 báo cáo khác về các hành vi “bất thường hoặc đáng lo ngại” của các mô hình AI, đồng thời giới thiệu một khuôn khổ để theo dõi, kiểm tra và công khai những trường hợp này.
