Các hệ thống bảo vệ máy tính mạnh nhất hiện nay đều dựa trên cơ chế theo dõi hoạt động của các phần mềm tấn công, thay vì một phương pháp phổ biến hơn là phân tích mã lập trình của các phần mềm để tìm ra dấu hiệu nguy hiểm.
Tuy nhiên, những chương trình độc hại ứng dụng AI có thể được lập trình để "ẩn thân" tốt hơn và sẽ chỉ hành động khi xác định được mục tiêu cụ thể. Cải tiến này khiến cho những "kẻ xâm nhập" AI rất khó để phát hiện.
Giới chuyên gia cảnh báo việc tin tặc lợi dụng công nghệ AI chỉ là vấn đề về thời gian. Jon DiMaggio, một nhà phân tích cấp cao tại công ty Symantec, cho rằng viễn cảnh đáng sợ này đang đến gần hơn bao giờ hết.
Trong khi đó, nhà nghiên cứu Marc Ph. Stoecklin của IBM cho rằng sự xuất hiện của những "kẻ địch" này có thể trở thành hiện thực trong vòng 2-3 năm tới.
Cho tới nay, một số thử nghiệm đã chứng minh việc tạo ra những phần mềm tấn công đáng sợ này là hoàn toàn có thể. Một nhóm nghiên cứu của IBM đã từng thành công xâm nhập vào một phần mềm thoại video song chỉ bắt đầu tấn công khi nhận dạng được khuôn mặt của một mục tiêu xác định trước.
Tại một hội thảo về tin tặc gần đây ở New York (Mỹ), nhà nghiên cứu về an ninh mạng Kevin Hodges cũng đã giới thiệu một chương trình tự động hóa "cấp độ cơ bản" cho phép tiến hành nhiều cuộc tấn công mạng liên tiếp.
Hiện chưa có phát hiện nào về một phần mềm tấn công sử dụng AI hay các dạng biến thể của AI. Tuy nhiên, nhiều chuyên gia lo ngại cho rằng có thể những phần mềm này thực sự đã hiện hữu và chỉ đang "ẩn thân" quá tốt trước những biện pháp phát hiện thông thường.
