Bức thư cảnh báo thế giới không còn nhiều thời gian để tăng cường năng lực phòng thủ mạng. Theo đó, trong những tháng tới, các cuộc tấn công mạng sử dụng AI sẽ trở nên phổ biến và tinh vi hơn nhiều, trong bối cảnh các mô hình AI trên toàn cầu ngày càng phát triển mạnh mẽ.
Trong những tháng gần đây, những lo ngại ngày càng gia tăng về năng lực ngày càng tiên tiến của các mô hình AI, trong đó có các mô hình của OpenAI và Anthropic - hai trong số những công ty phát triển AI hàng đầu thế giới.
Hồi giữa tháng 7, hai mô hình AI của OpenAI đã thoát khỏi môi trường thử nghiệm khép kín, tự kết nối Internet và tìm đến Hugging Face - nền tảng được các nhà phát triển AI sử dụng để lưu trữ, chia sẻ mã nguồn - sau đó tiến hành các hoạt động tấn công nhằm vào hệ thống này. Sau đó, Anthropic cũng phát hiện các mô hình AI của công ty đã truy cập trái phép vào hệ thống của ba tổ chức không được nêu tên trong quá trình thử nghiệm. Những hệ thống này vốn được thiết kế để ngăn mô hình AI tiếp cận các hệ thống trong “thế giới thực”.
Các sự cố trên làm gia tăng quan ngại rằng khi AI ngày càng có khả năng tự lập kế hoạch, sử dụng công cụ và kết nối với Internet, những năng lực vốn được phát triển cho mục đích chính đáng có thể bị tận dụng để tiến hành các cuộc tấn công mạng trên quy mô lớn.
