Trao đổi với phóng viên TTXVN, Tiến sĩ Hoàng Xuân Bách, Chủ tịch Hội Công nghệ Canada - Việt Nam, cho rằng nguy cơ AI hành động ngoài dự kiến là có thật và cần được nhìn nhận nghiêm túc. Tuy nhiên, không nên cực đoan hóa vấn đề theo hướng cho rằng AI sắp thoát khỏi sự kiểm soát của con người.

Theo ông, rủi ro lớn nhất sẽ xuất hiện khi AI không chỉ tạo ra thông tin mà còn được trao quyền hành động. Một tác nhân trí tuệ nhân tạo có thể đọc thư điện tử, truy cập cơ sở dữ liệu, sửa hồ sơ, gửi thông tin cho khách hàng hoặc thực hiện giao dịch. Khi đó, một thông tin bị hiểu sai, hiện tượng “ảo giác” của AI hoặc cuộc tấn công bằng câu lệnh độc hại có thể biến lỗi thông tin thành hành động gây hậu quả trên thực tế. 

Mức độ tự chủ của AI càng cao thì yêu cầu giám sát, giới hạn quyền truy cập và khả năng dừng hệ thống càng phải chặt chẽ. Vấn đề không chỉ là AI thông minh đến đâu, mà còn là con người trao cho AI những quyền gì.

Đối với các nghiệp vụ quan trọng trong tài chính, y tế, an ninh và hạ tầng thiết yếu, tác nhân AI chỉ nên đóng vai trò tư vấn, hỗ trợ hoặc đưa ra cảnh báo; quyết định cuối cùng vẫn phải thuộc về con người. Các cơ quan quản lý Canada đặc biệt lưu ý nguy cơ AI được cấp quyền quá rộng, sử dụng chung thông tin đăng nhập, làm rò rỉ dữ liệu và gây khó khăn cho việc truy vết trách nhiệm.

Đề cập đến cách thức quản lý AI, Tiến sĩ Hoàng Xuân Bách cho biết Canada hiện chưa có một đạo luật tổng quát về trí tuệ nhân tạo tương tự Đạo luật AI của Liên minh châu Âu. Dự luật về trí tuệ nhân tạo và dữ liệu trước đây không trở thành luật và đã được Chính phủ Canada đưa vào diện lưu trữ. 

Thay vào đó, Canada đang áp dụng mô hình quản trị nhiều lớp, kết hợp các quy định hiện hành về bảo vệ dữ liệu cá nhân, quyết định tự động, giám sát chuyên ngành và an ninh mạng. Đối với các cơ quan liên bang, Canada áp dụng Chỉ thị về việc ra quyết định tự động, nhằm bảo đảm việc sử dụng AI và các hệ thống tự động của chính phủ phải minh bạch, có trách nhiệm và công bằng.

Trước khi một hệ thống được triển khai, cơ quan sử dụng phải thực hiện đánh giá tác động thuật toán để xác định mức độ rủi ro và những biện pháp bảo vệ cần thiết. Mức độ ảnh hưởng của hệ thống càng lớn thì yêu cầu về giám sát, minh bạch và can thiệp của con người càng cao.

Hướng dẫn về tác nhân AI được Canada ban hành tháng 5/2026 yêu cầu những hành động có thể gây hậu quả lớn hoặc khó khôi phục phải có sự kiểm tra của con người. Hệ thống phải xác định rõ người chịu trách nhiệm, duy trì nhật ký hoạt động và có khả năng tạm dừng, vô hiệu hóa hoặc khôi phục khi xảy ra lỗi. Trong lĩnh vực tài chính, tác nhân AI phải có danh tính riêng, chỉ được cấp quyền tối thiểu cần thiết; phạm vi công cụ được sử dụng phải được giới hạn và những hành động quan trọng phải trải qua bước phê duyệt trước.

Đối với hạ tầng quan trọng, Canada cũng đã thiết lập khuôn khổ bảo vệ các hệ thống mạng thiết yếu, trong đó có những yêu cầu về chương trình an ninh mạng, quản lý rủi ro từ chuỗi cung ứng và bên thứ ba, báo cáo sự cố và tuân thủ các chỉ thị về an ninh mạng.

Theo Tiến sĩ Hoàng Xuân Bách, cách tiếp cận của Canada cho thấy quản trị AI không thể chỉ tập trung vào kiểm soát bản thân mô hình. Cơ quan quản lý và đơn vị triển khai phải đồng thời kiểm soát dữ liệu, danh tính, quyền truy cập, phạm vi hành động và trách nhiệm của người đưa AI vào hệ thống thực tế.

Từ kinh nghiệm này, ông cho rằng Việt Nam không nên coi phát triển AI và kiểm soát AI là hai mục tiêu đối lập. Hai yêu cầu cần được thiết kế và triển khai đồng thời. Một cơ chế an toàn hiệu quả sẽ tạo niềm tin, qua đó giúp doanh nghiệp và xã hội ứng dụng AI nhanh hơn.

Theo ông, Việt Nam cần xây dựng cơ chế quản lý dựa trên mức độ rủi ro. Một công cụ AI hỗ trợ soạn thảo văn bản không thể chịu cùng mức quản lý với AI tham gia quyết định tín dụng, chẩn đoán bệnh, điều khiển hạ tầng hoặc thực hiện giao dịch tài chính. Hệ thống càng ảnh hưởng trực tiếp đến quyền lợi, tài sản và sự an toàn của con người thì yêu cầu giám sát và trách nhiệm càng phải cao. Đối với những hoạt động như chuyển tiền, thay đổi hồ sơ công dân, tuyển dụng, tín dụng, y tế và vận hành hạ tầng thiết yếu, AI có thể hỗ trợ phân tích, nhưng quyết định cuối cùng phải được con người kiểm tra hoặc phê duyệt.

Quản trị AI phải gắn với quản trị danh tính và dữ liệu. Mỗi tác nhân AI cần có danh tính riêng, chỉ được cấp đúng quyền cần thiết và mọi hành động quan trọng phải được ghi lại. Trước khi triển khai hệ thống AI có ảnh hưởng lớn, cần đánh giá tác động của thuật toán, làm rõ dữ liệu được sử dụng, hậu quả khi AI mắc lỗi, chủ thể chịu trách nhiệm, vị trí con người có thể can thiệp và khả năng dừng hoặc khôi phục hệ thống.

Tiến sĩ Hoàng Xuân Bách nhấn mạnh không thể để một hệ thống AI gây hậu quả rối các bên liên quan cùng giải thích rằng đó là quyết định của thuật toán. Dù AI có mức độ tự chủ cao đến đâu, vẫn phải xác định được tổ chức hoặc cá nhân chịu trách nhiệm cuối cùng, đồng thời duy trì khả năng kiểm toán, truy vết và báo cáo sự cố. Đây là điều kiện quan trọng để AI được ứng dụng rộng rãi nhưng không làm suy giảm trách nhiệm của con người. 

Canada hiện duy trì Viện An toàn trí tuệ nhân tạo nhằm nghiên cứu và đánh giá rủi ro từ các hệ thống AI tiên tiến. Theo Tiến sĩ Hoàng Xuân Bách, về lâu dài, Việt Nam cũng nên phát triển một đầu mối quốc gia về an toàn, kiểm thử và tiêu chuẩn AI, kết nối cơ quan quản lý, trường đại học và doanh nghiệp. 

Nguyên tắc quan trọng nhất là AI càng được trao nhiều quyền thì trách nhiệm của con người càng phải rõ ràng, bảo đảm con người luôn biết AI đang làm gì và có thể can thiệp khi cần thiết.