Công ty cũng công bố một lỗ hổng trong phần mềm được sử dụng rộng rãi, được phát hiện trong quá trình kiểm tra các hệ thống phòng thủ của mình.
Theo truyền thông quốc tế, thông tin trên được đưa ra trong bối cảnh ngày càng có nhiều lo ngại về khả năng của các tác nhân AI (AI agents) trong việc phát hiện và khai thác lỗ hổng phần mềm, bao gồm cả những lỗ hổng trong chính các cơ chế kiểm soát được thiết kế để hạn chế chúng.
Trước đó, OpenAI đã tạm dừng huấn luyện các mô hình tiên tiến nhất sau khi một mô hình nghiên cứu của công ty lợi dụng lỗi cấu hình để truy cập Internet trong phạm vi hạn chế hồi tháng 9. Công ty cho biết đã kiểm soát được sự cố và tận dụng thời gian tạm dừng để củng cố hệ thống phòng thủ.
Để kiểm tra các hệ thống này, OpenAI giao cho các nhóm tác nhân AI nhiệm vụ tìm cách thoát khỏi môi trường hạn chế mà chúng được triển khai. Công ty cho biết các tác nhân này đã phát hiện những lỗ hổng chưa từng được biết đến. Các lỗ hổng này đã được khắc phục và quá trình huấn luyện được nối lại vào ngày 1/10.
Trong quá trình thử nghiệm, OpenAI, đơn vị phát triển ChatGPT, đã phát hiện một lỗ hổng trong Brotli, công cụ nén dữ liệu được sử dụng phổ biến.
Theo công ty, kẻ tấn công có thể khai thác lỗ hổng bằng cách gửi dữ liệu độc hại, qua đó thực thi mã tùy ý trên các hệ thống bị ảnh hưởng, bao gồm cả những hệ thống sử dụng các phần mềm web phổ biến như Node.js, Bun và Envoy.
OpenAI cho biết nguyên nhân gốc rễ của lỗ hổng đã được khắc phục trong mã nguồn của Brotli từ tháng 2, trước khi nguy cơ bảo mật này được nhận diện. Tuy nhiên, vào thời điểm đó, phiên bản cập nhật vẫn chưa được phát hành. Sau khi OpenAI công bố thông tin, Brotli đã phát hành các phiên bản cập nhật và công khai hồ sơ về lỗ hổng này.
Ngoài ra, ngày 22/10, các tổ chức đánh giá an toàn AI là METR và Redwood Research cho biết đã phát hiện một số lỗ hổng mới trong hệ thống nội bộ của OpenAI. Trong số đó có một phương thức khai thác cho phép các tác nhân AI che giấu hàng trăm hành động, khiến những hành động này không bị giám sát. Phương thức này đã được ghi nhận trong một đợt đánh giá thí điểm trước đó.
OpenAI thông báo với các tổ chức trên rằng công ty đã vá tất cả các lỗ hổng ảnh hưởng đến những cơ chế bảo vệ trong hệ thống đang vận hành. Tuy nhiên, METR và Redwood Research cho biết họ vẫn chưa xác minh các bản vá này.
Kể từ sau sự cố liên quan đến Hugging Face hồi tháng 7, OpenAI đã tiến hành rà soát toàn diện hoạt động của các mô hình AI do công ty phát triển, đồng thời thông báo cho hơn 100 tổ chức về các sự cố liên quan đến hoạt động trái phép của các tác nhân AI.
