Thông tin này mở rộng phạm vi các hoạt động bất thường của AI đã được ghi nhận, đồng thời tiếp tục đặt ra nghi vấn về khả năng kiểm soát của các nhà phát triển AI đối với những mô hình mới nhất đang trong giai đoạn thử nghiệm và đánh giá.
OpenAI - “cha đẻ” của công cụ AI ChatGPT cho biết đã gửi thông báo tới hơn 100 tổ chức bên thứ ba về hoạt động đáng ngờ của tác nhân AI. Các sự cố được phát hiện bao gồm tác nhân AI cố kích hoạt các trang web thực thi những lệnh ngoài dự kiến, sử dụng trang web làm nơi trao đổi tin nhắn chung và tìm cách vượt qua một số bước kiểm tra bảo mật.
Công ty nêu rõ thông báo trên không đồng nghĩa với việc các hệ thống đã bị truy cập trái phép, mà hoạt động đó có thể chỉ giống như thăm dò hơn là xâm nhập. OpenAI cho biết mục đích của thông báo là cung cấp cho các bên thứ ba bị ảnh hưởng những thông tin cần thiết để điều tra và xử lý các vấn đề tiềm ẩn về bảo mật hoặc kỹ thuật khác. Công ty cũng cam kết chia sẻ công khai kết quả phát hiện về hành vi bất thường của mô hình AI và những lỗ hổng bảo mật mới, nhằm giúp cộng đồng nghiên cứu về AI nói riêng và an ninh mạng nói chung có thể siết chặt tính năng an toàn.
Liên quan vấn đề an toàn AI, OpenAI tuyên bố đã sa thải 3 nhà nghiên cứu với cáo buộc xử lý sai thông tin nhạy cảm và vi phạm các quy định của công ty, bao gồm cả những công việc liên quan đến một tổ chức bên ngoài chuyên đánh giá các mô hình AI. Phòng thử nghiệm AI có trụ sở tại San Francisco chưa xác nhận danh tính của các nhân sự này, nhưng theo The Wall Street Journal và Bloomberg, ít nhất 2 trong số nhân viên này làm việc tại bộ phận an toàn AI.
Động thái trên được đưa ra sau khi các nhà nghiên cứu độc lập phát hiện nhiều sự cố an ninh mạng liên quan đến các tác nhân AI hoạt động bất thường. Mới nhất, ngày 30/9, một công ty nghiên cứu AI cho biết các tác nhân AI từng tìm cách xâm nhập vào một trang web của Chính phủ Canada song không thành công. Phía Canada khẳng định không có dấu hiệu nào cho thấy hệ thống bị xâm phạm.
Công ty OpenAI cũng thừa nhận các tác nhân AI của hãng từng truy cập nhiều trang web, trong đó có trang của các cơ quan liên bang Mỹ, một cổng dữ liệu thống kê y tế của Australia và Hugging Face - nền tảng lưu trữ các mô hình AI.
Đáng lo ngại hơn, theo báo cáo của công ty an ninh mạng Asymmetric Security công bố cùng ngày 1/10, các tác nhân do OpenAI phát triển đã tìm cách xoá dấu vết hoạt động sau khi truy cập trái phép vào các trang web của chính phủ.
Công ty Asymmetric Security đã tiến hành phân tích hoạt động của các tác nhân AI khi chúng nhắm mục tiêu vào các trang web của Chính phủ Australia và nhiều cơ quan công quyền khác trong khoảng thời gian từ tháng 3 - 9 vừa qua. Hiện chưa thể xác định liệu hành vi xóa dấu vết của các tác nhân AI này là do vô tình hay cố ý.
Theo Asymmetric Security, các tác nhân AI có khả năng hoàn thiện và nâng cao kỹ thuật chỉ trong vòng vài ngày, trong khi các tin tặc sử dụng phương thức tấn công cũ thường phải mất nhiều tháng, thậm chí nhiều năm mới đạt được mục đích. Công ty Asymmetric Security cũng phát hiện các tác nhân AI này đã tự mở các tài khoản cá nhân trên một dịch vụ phân tích trang web nhằm che giấu các thao tác tìm kiếm của mình, đồng thời tạo ra các hộp thư điện tử tạm thời, trong đó có một hộp thư được cài đặt tự xóa sau 48 giờ.
Cuối tháng 8 vừa qua, OpenAI nói rằng các mô hình của họ đôi khi tìm cách xóa hoặc sửa đổi nhật ký hoạt động của chúng trong các thử nghiệm nội bộ, nhưng không thành công.
