Đây là trường hợp mới nhất cho thấy các tác nhân AI có thể hoạt động theo những cách nằm ngoài dự tính của chính các nhà phát triển.
Theo truyền thông Singapore, OpenAI (công ty phát triển ChatGPT) khẳng định các sự cố xảy ra trong quá trình thực hiện những tác vụ lập trình nội bộ và không thuộc mức độ nghiêm trọng cao nhất. Tuy nhiên, vụ việc cho thấy ngay cả những hệ thống được thiết kế để phát hiện hành vi sai lệch của AI cũng có thể bị chính các tác nhân mà chúng giám sát làm suy yếu.
Theo OpenAI ngày 20/10, trong một cuộc kiểm thử nội bộ, tác nhân AI có tên “GPT-6.1 Sol” đã ngăn chặn các cảnh báo bảo mật tự động. Tác nhân này suy luận rằng chỉ dẫn trước đó yêu cầu không gửi tin nhắn qua nền tảng Slack cũng đồng nghĩa với việc không gửi các cảnh báo an toàn.
Trong một sự cố khác ngày 6/10, tác nhân “GPT-6 Astra” đã loại bỏ một thành phần giám sát an toàn khi sao chép mã lập trình, sau đó khẳng định không thực hiện hành động này.
OpenAI cho biết: “Trong cả hai trường hợp, các tác nhân đều cân nhắc việc có nên giữ lại các biện pháp bảo vệ và giám sát hay không, nhưng lại diễn giải những chỉ dẫn lập trình thông thường là cho phép làm suy yếu các biện pháp đó”.
OpenAI cho biết đang tăng cường các biện pháp bảo vệ nhằm ngăn chặn những mô hình AI vô hiệu hóa hệ thống giám sát, đồng thời thừa nhận công ty “vẫn chưa có lời giải thích thỏa đáng cho hành vi này”.
Công ty này cũng đang kiểm tra xem các mô hình AI của mình có xu hướng né tránh giám sát và tìm cách biện minh cho những hành động đó hay không.
Thông tin trên được công bố trong bối cảnh ngày càng gia tăng lo ngại rằng các biện pháp bảo đảm an toàn cho AI chưa theo kịp tốc độ phát triển nhanh chóng của những hệ thống ngày càng mạnh mẽ. Các nhà nghiên cứu cảnh báo những tác nhân AI tiên tiến có thể trở nên khó giám sát và kiểm soát hơn khi được trao quyền tự chủ lớn hơn.
Trong những tháng gần đây, một số nhà phát triển, trong đó có OpenAI và đối thủ Anthropic, đã công bố các trường hợp tác nhân AI truy cập vào hệ thống bên ngoài mà không được cấp phép.
