Theo phóng viên TTXVN tại Tel Aviv, nhận định trên được Giám đốc Nghiên cứu an ninh của công ty an ninh AI Zenity (Israel), ông Tamir Ishay Sharbat đưa ra trong cuộc trao đổi với chuyên trang công nghệ CTech (Israel) gần đây. Theo ông Sharbat, các nhóm nghiên cứu của Zenity là một trong những đơn vị sớm nhận thấy rủi ro lớn nhất từ AI không còn chỉ là việc trợ lý ảo chatbot đưa ra câu trả lời sai lệch hoặc không an toàn, mà là khả năng AI Agent thực hiện hành động ngoài ý muốn của người dùng.
Zenity cho biết trong những năm gần đây, sự xuất hiện của các trợ lý AI, AI Agent lập trình, trình duyệt có AI và các hệ thống có khả năng tự thực hiện chuỗi nhiệm vụ đang mở rộng đáng kể bề mặt tấn công. Mỗi chức năng mới giúp AI trở nên hữu ích hơn, nhưng đồng thời cũng tạo thêm khả năng để tin tặc lợi dụng.
Nhóm nghiên cứu chứng minh rằng chỉ bằng cách gửi một thư điện tử có nội dung được thiết kế đặc biệt, kẻ tấn công có thể tác động gián tiếp tới trợ lý ảo Microsoft Copilot, khiến hệ thống này đưa ra thông tin sai lệch, hỗ trợ các hoạt động lừa đảo hoặc truy xuất và làm rò rỉ dữ liệu nhạy cảm từ các tệp dữ liệu của người sử dụng. Điểm đáng lo ngại là người dùng không nhất thiết phải trực tiếp mở hay thực hiện lệnh từ nội dung độc hại, mà chỉ cần AI xử lý nguồn thông tin đó.
Theo ông Sharbat, nguy cơ tương tự hiện đang xuất hiện đối với các trình duyệt sử dụng AI Agent. Trong nghiên cứu gần đây, Zenity cho hay một nội dung độc hại được cài trong bình luận hoặc trang web mà AI đọc có thể dẫn tới việc đánh cắp dữ liệu không cần tương tác, chiếm quyền tài khoản trong trình quản lý mật khẩu hoặc thậm chí thực thi mã trên thiết bị.
Các chuyên gia của Zenity nhận định đây không chỉ là những lỗ hổng riêng lẻ của một sản phẩm, mà phản ánh một vấn đề mang tính cấu trúc. Khi AI được trao khả năng truy cập dữ liệu, sử dụng công cụ và tự thực hiện hành động, mô hình bảo mật truyền thống vốn chủ yếu kiểm soát người dùng và phần mềm có thể không còn đủ hiệu quả.
Bên cạnh việc gây ra thêm rủi ro, AI cũng đang trở thành công cụ quan trọng đối với chính các nhà nghiên cứu an ninh mạng. Theo ông Sharbat, AI hiện có thể hỗ trợ kiểm tra cùng lúc nhiều giả thuyết, phân tích hệ thống và thậm chí tự phát hiện một số lỗ hổng mà không cần hướng dẫn trực tiếp của con người. Điều này giúp các chuyên gia mở rộng đáng kể quy mô nghiên cứu.
Tuy nhiên, ông Sharbat cho rằng AI sẽ không loại bỏ vai trò của chuyên gia an ninh mạng. Trong tương lai, lợi thế sẽ thuộc về những nhà nghiên cứu vừa hiểu sâu về cách vận hành của AI, vừa có khả năng đặt ra những câu hỏi và giả thuyết mà chính mô hình AI khó tự nghĩ tới. Theo đó, AI nhiều khả năng sẽ trở thành công cụ khuếch đại năng lực con người hơn là thay thế hoàn toàn các chuyên gia về an ninh mạng.
