Phóng viên TTXVN tại Tel Aviv dẫn lời ông Roey Fizitzky, Phó Chủ tịch phụ trách nghiên cứu an ninh tại công ty an toàn AI Alice của Israel, nhận định AI có thể đẩy nhanh quá trình nghiên cứu, nhưng phần khó nhất vẫn là xác định những cách thức tấn công có thể khiến hệ thống mất an toàn. Vì vậy, kinh nghiệm, trực giác và khả năng tìm ra những phương thức tấn công mới vẫn đóng vai trò quan trọng.
Alice, trước đây mang tên ActiveFence, hiện có khoảng 150 chuyên gia làm việc trong các lĩnh vực nghiên cứu an ninh, nghiên cứu đối kháng và tình báo mối đe dọa. Nhóm này kiểm thử các mô hình, tác nhân AI (AI agent) và ứng dụng nhằm phát hiện những nguy cơ như “jailbreak” - tìm cách vượt qua cơ chế bảo vệ của mô hình, tấn công chèn chỉ dẫn (prompt injection), rò rỉ dữ liệu và các hình thức thao túng AI khác.
Một thay đổi đáng chú ý là các chuyên gia ngày càng chủ động tìm kiếm nguy cơ AI. Thay vì chờ một hình thức tấn công mới lan rộng, các chuyên gia theo dõi những kỹ thuật mới được chia sẻ trên các nền tảng trực tuyến và diễn đàn ngầm, phân tích cách thức hoạt động rồi thử nghiệm trên các mô hình AI để xem những kỹ thuật này có thể vượt qua cơ chế bảo vệ hay không.
Alice đã phát triển công cụ Rabbit Hole để theo dõi các kỹ thuật tấn công mới trên Telegram, Discord và các diễn đàn thuộc mạng web ngầm (dark web). Công cụ này xác định từng phương thức tấn công rồi thử nghiệm trên các mô hình AI hàng đầu, giúp chuyên gia sớm đánh giá nguy cơ và nghiên cứu biện pháp phòng vệ.
Theo ông Fizitzky, nhiều lỗ hổng mà các nhà nghiên cứu phát hiện không được công bố vì lý do an ninh, trong khi một số có khả năng ảnh hưởng tới hàng tỷ người dùng nếu bị các đối tượng xấu phát hiện và khai thác. Trong một trường hợp gần đây, nhóm nghiên cứu đã tìm thấy lỗ hổng có thể cho phép kẻ tấn công chiếm quyền kiểm soát tài khoản người dùng trên một sản phẩm phổ biến. Nhóm lập tức thông báo cho đơn vị vận hành để khắc phục, song công ty không công bố tên sản phẩm cũng như chi tiết kỹ thuật của lỗ hổng.
Sự phát triển của AI cũng mở rộng phạm vi nghiên cứu an ninh từ phần mềm truyền thống sang chính các mô hình và hệ thống AI. Ngoài việc tìm lỗi mã nguồn, chuyên gia phải tìm hiểu cách mô hình phản ứng trước các chỉ dẫn bất thường, dữ liệu cố tình được tạo ra để đánh lừa AI hoặc những chuỗi tương tác liên tiếp có thể khiến hệ thống tiết lộ thông tin, vượt qua giới hạn an toàn hay thực hiện hành động ngoài dự kiến.
Ông Fizitzky cho rằng AI sẽ đóng vai trò hỗ trợ hiệu quả, nhưng khó thay thế hoàn toàn chuyên gia an ninh mạng. Máy móc có thể tự động hóa việc phân tích lượng lớn dữ liệu, thử nghiệm nhiều cách tấn công và rà soát hệ thống nhanh hơn con người nhưng việc đặt ra câu hỏi đúng, suy đoán cấu trúc bên trong của một hệ thống và nghĩ ra phương thức phá vỡ những lớp bảo vệ mới vẫn phụ thuộc nhiều vào khả năng sáng tạo của con người.
AI đang thúc đẩy một cuộc chạy đua mới trong an ninh mạng khi cả bên tấn công và bên phòng thủ đều có thể dùng công nghệ này để tăng tốc. Lợi thế vì vậy ngày càng phụ thuộc vào khả năng phát hiện sớm những phương thức tấn công mới và kịp thời xây dựng biện pháp bảo vệ trước khi các đối tượng xấu khai thác lỗ hổng trên diện rộng.
