#tác nhân AI

Đề xuất của CEO Microsoft Satya Nadella về cơ chế giám sát độc lập và “phanh khẩn cấp” cho trí tuệ nhân tạo (AI) cho thấy kiểm soát công nghệ không thể chỉ dựa vào độ tin cậy của mô hình. Khi AI ngày càng có khả năng tự thực hiện nhiệm vụ, yêu cầu đặt ra là phải thiết kế hệ thống để con người có thể giám sát, giới hạn và can thiệp kịp thời. Cách tiếp cận này cũng gợi mở những giải pháp bảo đảm an ninh, an toàn công nghệ cho Việt Nam trong quá trình thực hiện Nghị quyết 57 và Thông báo 24.

Sự cố mô hình AI của Anthropic tự động gửi tin báo giả về một vụ án mạng tới trang web tiếp nhận thông tin của cảnh sát Mỹ cho thấy rủi ro trí tuệ nhân tạo không còn giới hạn ở việc tạo ra nội dung sai lệch, mà đã mở rộng sang khả năng tự thực hiện hành động trên các hệ thống bên ngoài. Từ vụ việc này, Việt Nam cần chú trọng kiểm soát quyền tự chủ, giám sát thử nghiệm và xác định trách nhiệm khi triển khai AI theo tinh thần Nghị quyết 57 và Thông báo 24.

AI đang chuyển sang thực hiện nhiệm vụ trực tiếp trong nhiều lĩnh vực. Việc Robinhood đưa tác nhân AI (AI agent) vào giao dịch cho khách hàng phổ thông là một ví dụ, đồng thời cho thấy yêu cầu làm chủ công nghệ, dữ liệu và hoàn thiện cơ chế quản lý trong quá trình phát triển AI.

David Robinson, một lãnh đạo trong nhóm Hệ thống An toàn của OpenAI, đã rời công ty vào tuần trước, trong bối cảnh bộ phận phụ trách an toàn AI đang có nhiều biến động về nhân sự.

Ngày 2/10/2026, kinh tế thế giới có nhiều thông tin đáng chú ý.

Từ việc AI được sử dụng để tăng tốc các cuộc tấn công mạng đến sự xuất hiện của những hệ thống ngày càng tự chủ, bài toán không còn đơn thuần là phát triển AI nhanh đến đâu mà là con người có đủ năng lực kiểm soát sức mạnh đó hay không. Với Việt Nam, đây cũng là vấn đề cần được đặt ra trong quá trình thực hiện Nghị quyết 57-NQ/TW.

Công ty OpenAI cho biết mô hình GPT-6.1 Astra không đáp ứng các tiêu chuẩn về sự đồng bộ với ý định của con người trong quá trình thử nghiệm nội bộ.

Trước hàng loạt báo cáo về việc các mô hình của OpenAI vượt khỏi tầm kiểm soát, truy cập trái phép vào các trang web và hoạt động ngoài ý muốn, công ty này đã quyết định tạm dừng quá trình huấn luyện các mô hình mạnh nhất của mình.

Ngày 25/9, OpenAI thừa nhận các công cụ trí tuệ nhân tạo (AI) của công ty này đã vô tình đưa 53 hình ảnh của người dùng ChatGPT lên các trang lưu trữ ảnh trực tuyến mà không được phép. Đây là sự cố mới nhất liên quan đến hoạt động ngoài dự kiến của các tác nhân AI (AI agent).

Ngày 25/9, OpenAI thừa nhận các công cụ trí tuệ nhân tạo (AI) của công ty này đã vô tình đưa 53 hình ảnh của người dùng ChatGPT lên các trang lưu trữ ảnh trực tuyến mà không được phép. Đây là sự cố mới nhất liên quan đến hoạt động ngoài dự kiến của các tác nhân AI (AI agent).

Không chỉ tự thực hiện các nhiệm vụ trên Internet, AI agent trong vụ tấn công Hugging Face còn được phát hiện tìm cách tương tác với những mô hình AI khác. Diễn biến này cho thấy khi AI ngày càng có khả năng tự hành, yêu cầu về kiểm soát và an toàn cũng trở thành một phần không thể tách rời của quá trình phát triển AI tại Việt Nam.

Ngày 23/9, Thủ tướng Australia Anthony Albanese cho biết một tác nhân AI của OpenAI đã xâm nhập cơ sở dữ liệu y tế quốc gia của Australia.

Trí tuệ nhân tạo (AI) đang chuyển từ một mặt trận cạnh tranh công nghệ thành vấn đề an ninh chiến lược trong quan hệ Mỹ-Trung. Diễn biến này cũng đặt ra yêu cầu đối với Việt Nam trong triển khai Nghị quyết 57-NQ/TW: thúc đẩy làm chủ công nghệ phải đi cùng bảo đảm an toàn, an ninh mạng và an ninh dữ liệu.

Theo báo cáo nghiên cứu được công bố ngày 4/9, hàng nghìn tác nhân AI tự hành do OpenAI phát triển đã làm trái với các hướng dẫn được thiết lập và chiếm quyền kiểm soát một trang web của Đức.

Sự phát triển nhanh của trí tuệ nhân tạo (AI) và Tác nhân AI (AI Agent) đang làm thay đổi bản chất của các rủi ro về an ninh mạng, khi mối đe dọa ngày càng không nằm ở nội dung mà mô hình AI tạo ra, mà ở những hành động mà hệ thống này có thể tự thực hiện sau khi được cấp quyền truy cập vào dữ liệu, tài khoản và môi trường vận hành thực tế.

Theo một lá thư của công ty gửi tới các nhà lập pháp, OpenAI đã thông báo các kỹ sư của họ đang phát triển "khả năng ngắt hoạt động tự động" cho các hệ thống AI.

Theo một nghiên cứu, số vụ AI thoát khỏi tầm kiểm soát của người dùng, nói dối, phớt lờ chỉ thị và theo đuổi các mục tiêu gây hại đã tăng lên mức cao kỷ lục. Nghiên cứu cũng cho thấy mức độ nghiêm trọng của các hành vi lừa dối và lệch khỏi mục tiêu của con người đang gia tăng.

Một mô hình AI được giao quản lý cửa hàng tại Mỹ đã lần đầu đưa ra quyết định sa thải nhân viên, mở ra thử nghiệm đáng chú ý về khả năng AI tham gia quản trị doanh nghiệp. Câu chuyện cũng đặt ra vấn đề về dữ liệu, trách nhiệm và làm chủ AI trong quá trình chuyển đổi số tại Việt Nam.

Một loạt thử nghiệm an ninh mạng tại Anh cho thấy các mô hình AI tiên tiến có thể thực hiện những hành động ngoài dự kiến, thậm chí sử dụng danh tính giả để tác động tới người thật. Những phát hiện này cho thấy khi AI ngày càng có khả năng tự hành động, việc kiểm thử và đánh giá rủi ro cần được tiến hành trước khi công nghệ được triển khai rộng rãi.

Meta (công ty mẹ của Facebook và Instagram) là doanh nghiệp mới nhất có tác nhân AI hoạt động ngoài dự kiến.