Phát biểu được đưa ra sau khi OpenAI - công ty phát triển ChatGPT - gần đây ghi nhận hai mô hình AI của mình tự thực hiện một cuộc tấn công mạng, vượt qua các cơ chế bảo mật vốn được thiết kế để ngăn chặn những hành vi như vậy.
Tuần trước, OpenAI tiết lộ trong quá trình thử nghiệm, các mô hình này đã thoát khỏi môi trường hoạt động bị giới hạn, kết nối với Internet và xâm nhập nền tảng Hugging Face - nơi các lập trình viên lưu trữ và chia sẻ mã nguồn.
Theo ông Altman, đây là sự cố an ninh đầu tiên khiến ông thực sự cảm thấy rõ mức độ nghiêm trọng.
Dù đây không phải lần đầu một mô hình AI vượt khỏi tầm kiểm soát của nhà phát triển, nhưng sự cố lần này được giới chuyên môn đánh giá là đặc biệt đáng lo ngại. Sau vụ việc, OpenAI đã tạm dừng các cuộc thử nghiệm để tăng cường cơ chế bảo mật đối với hệ thống sandbox - môi trường biệt lập dùng để chạy và kiểm soát mã nguồn một cách an toàn. Tuy nhiên, về lâu dài, ông Altman cho rằng toàn ngành AI có thể sẽ phải thống nhất làm chậm tốc độ phát triển công nghệ.
Theo ông Altman, bất kỳ sáng kiến nào theo hướng đó cũng cần được triển khai theo cách không tạo cảm giác các doanh nghiệp đang lợi dụng quy định để bảo vệ lợi ích riêng, đồng thời không bị coi là sự thông đồng giữa các phòng thí nghiệm AI hàng đầu.
Trong một phát biểu khác được công bố hôm 25/7, ông Altman còn cho rằng nhân loại đã bước vào thời điểm gọi là "điểm kỳ dị" (singularity) - giả thuyết về thời điểm công nghệ phát triển vượt qua trí thông minh và khả năng kiểm soát của con người. Không chỉ OpenAI, đối thủ Anthropic cũng từng bày tỏ ủng hộ ý tưởng chủ động làm chậm quá trình phát triển AI.
Đầu năm nay, Chính phủ Mỹ từng viện dẫn các lo ngại về an ninh quốc gia để ngăn việc phát hành những mô hình AI mạnh do Anthropic và OpenAI phát triển. Cả hai công ty đều tự nguyện tuân thủ yêu cầu này cho đến khi lệnh hạn chế được dỡ bỏ.
