Sự việc được phát hiện trong quá trình rà soát liên tục về các hành vi ngoài dự kiến của các mô hình AI do công ty phát triển.
Theo hãng tin AFP, OpenAI cho biết các mô hình của công ty đã truy cập thông tin công khai trên hai trang web do Ủy ban Chứng khoán và Giao dịch (SEC) vận hành, cũng như dữ liệu của Cục Thống kê Dân số Mỹ. OpenAI khẳng định không phát hiện việc sử dụng thông tin đăng nhập của SEC, truy cập tài khoản hoặc thông tin không công khai, thay đổi dữ liệu hay hệ thống của SEC, cũng như không tìm thấy bằng chứng cho thấy hệ thống bị xâm nhập hoặc có lỗ hổng bảo mật.
Thông tin trên được đưa ra trong bối cảnh lo ngại trên toàn cầu gia tăng về khả năng các hệ thống AI hoạt động ngoài tầm kiểm soát của con người và truy cập trái phép vào các trang web bên ngoài, cùng những lời kêu gọi trong ngành công nghệ về việc làm chậm tốc độ phát triển AI - quan điểm mà OpenAI cho biết công ty ủng hộ.
Người phát ngôn OpenAI Liz Bourgeois cho biết trong một tuyên bố rằng công ty đang tiếp tục rà soát các “hoạt động mô hình không đúng định hướng” và sẽ thông báo cho các tổ chức khi phát hiện những tác động tiềm tàng đối với hệ thống của họ.
Giám đốc điều hành (CEO) OpenAI Sam Altman ngày 25/9 cho biết trên mạng xã hội rằng công ty đang tiến hành một “cuộc rà soát toàn diện và liên tục liên quan đến việc các tác nhân AI của chúng tôi sử dụng quyền truy cập Internet trong quá trình huấn luyện và đánh giá”.
Cùng ngày, phòng thí nghiệm nghiên cứu và đánh giá AI Transluce cho biết, qua một cuộc điều tra độc lập, họ phát hiện các tác nhân AI dường như xuất phát từ OpenAI đã cố gắng thực hiện một vụ tấn công mạng nhằm vào trang web của Văn phòng Quyền Dân sự thuộc Bộ Giáo dục Mỹ, nhưng không thành công.
Một người phát ngôn Bộ Giáo dục Mỹ cho biết các đợt “rà soát vận hành hệ thống” của Bộ không phát hiện “bằng chứng nào về bất kỳ tác động nào đối với trang web hoặc cơ sở dữ liệu của chúng tôi”.
Trong khi đó, người phát ngôn Transluce cho biết trong quá trình điều tra, phòng thí nghiệm này phát hiện dữ liệu công khai trên mạng tiết lộ những chi tiết mới về hoạt động của một số tác nhân AI thuộc OpenAI trên các trang web của Chính phủ Mỹ và đã thông báo cho OpenAI về vấn đề này.
Transluce cũng phát hiện “các hoạt động bất thường khác” nhằm vào một số cơ quan chính phủ, trong đó có Bộ Tư pháp và Bộ Thương mại, cũng như một số trang web của chính quyền các bang California, Maryland, Illinois, Texas và New York. Trong một tuyên bố, Transluce cho biết các mô hình này “đang sử dụng các trang web theo những cách không được dự tính và đôi khi vi phạm các chính sách sử dụng đã được quy định rõ ràng”.
OpenAI cho biết đang xem xét báo cáo của Transluce. Công ty giải thích rằng việc thông báo cho các tổ chức bị ảnh hưởng bởi hành vi bất ngờ của mô hình không đồng nghĩa với việc đã xảy ra sự cố bảo mật; thông báo có thể chỉ ra một vấn đề về thiết kế hoặc lỗ hổng bảo mật mà các tổ chức bị ảnh hưởng muốn khắc phục.
Phần lớn các hoạt động mà OpenAI xem xét cho đến nay đều liên quan đến các tác vụ nghiên cứu thông thường, trong đó các tác nhân truy cập nội dung web công khai để giải đáp thắc mắc, bao gồm cả các trang web chính phủ vốn được xem là nguồn thông tin công cộng đáng tin cậy.
Trong những tháng gần đây, một số công ty đã công bố các sự cố liên quan đến việc mô hình AI của họ có hành vi khó lường hoặc truy cập trái phép vào trang web và hệ thống của các tổ chức khác. Hồi tháng 7, OpenAI tiết lộ hai trong số các mô hình AI mạnh nhất của công ty đã gây ra vụ tấn công mạng nhằm vào công ty khởi nghiệp AI Hugging Face.
Trong bài đăng trên mạng xã hội ngày 25/9, ông Altman nhận định sự cố liên quan đến Hugging Face “vẫn là vụ việc nghiêm trọng nhất mà công ty từng ghi nhận”.
Sự cố trên gây ra những lo ngại trong ngành công nghệ và bên ngoài về nguy cơ các mô hình AI hoạt động ngoài tầm kiểm soát. Sau đó, một số phòng thí nghiệm AI khác cũng đưa ra những thông báo tương tự.
Gần đây nhất, OpenAI đã công bố sáu báo cáo về các hành vi “bất ngờ hoặc đáng lo ngại” của mô hình AI, đồng thời giới thiệu một khuôn khổ để theo dõi, điều tra và công khai những trường hợp xảy ra tình trạng mà công ty gọi là “lệch chuẩn” - tức hành vi của AI không còn tuân thủ đúng mục đích hoặc các quy tắc an toàn ban đầu.
