Tác nhân AI là những chương trình AI hoạt động độc lập mà không cần con người hướng dẫn từng bước. Các tác nhân AI được ngành công nghệ quảng bá là bước phát triển tiếp theo trong quá trình mở rộng ứng dụng AI vào đời sống thường nhật, với khả năng đặt dịch vụ du lịch, kê khai chi phí hay viết phần mềm mà gần như không cần sự giám sát của con người.
Trong vụ việc được nghiên cứu lần này, các tác nhân AI đã để lại khoảng 18.000 tin nhắn trên DSEwiki, một trang web dành cho lập trình viên tại Đức có cơ chế chỉnh sửa tự do tương tự như Wikipedia. Chúng đã sử dụng nền tảng này để trao đổi đáp án cho các câu hỏi kiểm tra và chia sẻ các thủ thuật nhằm vượt qua các "hàng rào kỹ thuật số" được dựng lên để kiểm soát chúng.
Bà Sydney Von Arx, một trong những chuyên gia tham gia nghiên cứu này, cho rằng OpenAI đã biết về sự việc trên nhưng không công khai thông tin. Người phát ngôn của OpenAI cho biết tập đoàn đang cẩn trọng xem xét lại nội dung báo cáo và sẽ thực hiện các bước đi cần thiết tiếp theo, đồng thời cho hay họ cũng đã đề cập đến các sự cố tương tự trong một báo cáo gần đây.
Sự cố mới nhất này xảy ra ngay sau vụ việc hồi tháng 7, khi các tác nhân AI của OpenAI - do gặp khó khăn trong việc hoàn thành nhiệm vụ được giao - đã tự ý tìm cách "đi tắt" trên mạng Internet và xâm nhập vào máy chủ của Hugging Face, một nền tảng chia sẻ phần mềm AI phổ biến với giới lập trình viên.
Một cuộc điều tra độc lập cho thấy hàng trăm tác nhân AI của công ty này đã tự trao đổi với nhau trước khi vượt khỏi tầm kiểm soát và mở nhiều đợt tấn công liên tiếp.
Sự việc đó đã gây chấn động giới công nghệ. Các tập đoàn công nghệ khác như Anthropic hay Meta cũng ghi nhận những sự cố tương tự trong quá trình thử nghiệm các tác nhân AI.
Những sự cố liên tiếp này đã làm dấy lên những lời kêu gọi siết chặt các quy định và tăng cường hợp tác quốc tế trong quản lý AI. Trong một bài luận đăng tải tuần trước, nhà đồng sáng lập Microsoft Bill Gates cảnh báo ngành AI đã vượt qua các ranh giới an toàn mà họ từng cam kết tuân thủ. Ông kêu gọi thiết lập một cơ chế giám sát nghiêm ngặt, tương tự như quy trình kiểm tra hạt nhân hay các quy định trong ngành hàng không.
Bất chấp những lời kêu gọi này, chính quyền Tổng thống Mỹ Donald Trump vẫn kiên quyết phản đối, coi việc chống lại các quy định kiểm soát AI là một trọng tâm trong chương trình nghị sự của mình.