#sự cố AI

Sự cố mô hình AI của Anthropic tự động gửi tin báo giả về một vụ án mạng tới trang web tiếp nhận thông tin của cảnh sát Mỹ cho thấy rủi ro trí tuệ nhân tạo không còn giới hạn ở việc tạo ra nội dung sai lệch, mà đã mở rộng sang khả năng tự thực hiện hành động trên các hệ thống bên ngoài. Từ vụ việc này, Việt Nam cần chú trọng kiểm soát quyền tự chủ, giám sát thử nghiệm và xác định trách nhiệm khi triển khai AI theo tinh thần Nghị quyết 57 và Thông báo 24.

Một mô hình AI của Anthropic đã tự động gửi tin báo giả về vụ án mạng chưa được phá tới trang web tiếp nhận thông tin của cảnh sát Philadelphia, Mỹ, trong một cuộc thử nghiệm hồi tháng 7. Tuy tin báo bị chuyển vào mục thư rác và không ảnh hưởng đến cuộc điều tra, cảnh sát vẫn chỉ trích công ty vì chậm phát hiện và thông báo sự cố.

David Robinson, một lãnh đạo trong nhóm Hệ thống An toàn của OpenAI, đã rời công ty vào tuần trước, trong bối cảnh bộ phận phụ trách an toàn AI đang có nhiều biến động về nhân sự.

Việc Mỹ và Trung Quốc thiết lập kênh liên lạc về sự cố trí tuệ nhân tạo (AI) cho thấy quản lý rủi ro đang trở thành một phần của cuộc đua AI. Với Việt Nam, vấn đề đặt ra trong thực hiện Nghị quyết 57 là thúc đẩy làm chủ công nghệ, đổi mới sáng tạo nhưng đồng thời bảo đảm an ninh, an toàn ngay từ đầu.

Một lỗi trong quá trình thử nghiệm khiến Gemini của Google từ môi trường giả lập chuyển sang truy cập hệ thống của 3 doanh nghiệp thực tế, cho thấy yêu cầu kiểm soát AI phải được đặt song hành với việc phát triển năng lực công nghệ.

Một báo cáo tình báo do AI hỗ trợ đã nhận diện sai hàng hóa trên một tàu Trung Quốc, khiến quân đội Mỹ chuẩn bị đánh chặn trước khi phát hiện thông tin này là sai.