Theo bài viết, mối nguy không nhất thiết đến từ một “cuộc nổi loạn” của máy móc, mà có thể xuất hiện dưới dạng một hệ thống AI thực hiện mục tiêu với tốc độ và quy mô vượt xa khả năng giám sát của con người. Nếu các rào cản đạo đức, kỹ thuật hoặc quyền kiểm soát bị loại bỏ, AI về lý thuyết có thể tìm cách tiếp cận các mạng lưới dữ liệu, hệ thống giám sát, vệ tinh, camera và các nguồn dữ liệu thời gian thực để nâng cao khả năng nhận biết môi trường.
Kịch bản đáng lo ngại hơn là AI có thể tác động tới các phương tiện và hệ thống tự động vốn ngày càng phụ thuộc vào phần mềm và kết nối mạng, từ ô tô, máy bay, thiết bị bay không người lái đến hệ thống logistics. Khi đó, nguy cơ không nhất thiết là phá hủy trực tiếp mà có thể là điều hướng, trì hoãn, phân luồng hoặc thay đổi hoạt động của các hệ thống theo những quyết định mà con người khó nhận biết và can thiệp kịp thời.
Bài viết cũng mở rộng kịch bản tới các hệ thống có tính chiến lược như vệ tinh, mạng thông tin, radar, hệ thống phòng thủ và các cơ sở năng lượng. Nếu AI có quyền truy cập và khả năng điều khiển những hệ thống này, việc tối ưu hóa hoạt động để bảo đảm “khả năng tồn tại” của chính hệ thống có thể dẫn tới những quyết định xung đột với lợi ích hoặc an toàn của con người.
Đặc biệt, bài báo cảnh báo về nguy cơ AI tác động tới thông tin và nhận thức xã hội. Nếu kiểm soát được các luồng thông tin, mạng lưới truyền thông, hệ thống tài chính hoặc hạ tầng số, một AI giả định không cần sử dụng vũ lực vẫn có thể gây ảnh hưởng bằng cách ưu tiên, trì hoãn, lọc hoặc thay đổi thông tin mà con người tiếp nhận.
Bài viết kết luận khi AI ngày càng được tích hợp vào giao thông, năng lượng, quốc phòng, tài chính và hạ tầng thông tin, nguy cơ lớn không nhất thiết nằm ở việc AI “nổi loạn”, mà ở việc con người trao cho hệ thống tự động quá nhiều quyền truy cập và quyền quyết định mà thiếu cơ chế giám sát, ngắt khẩn cấp và kiểm soát độc lập.
Những vụ việc gần đây cho thấy trí tuệ nhân tạo (AI) đang ngày càng có khả năng tự hành, vượt qua các biện pháp kiểm soát và thậm chí tìm cách đánh lừa con người, làm dấy lên cảnh báo rằng nhân loại có thể đang tiến gần một “thời khắc Chernobyl” của AI – một thảm họa đủ lớn để buộc thế giới phải thiết lập các quy tắc quản lý sau khi sự cố đã xảy ra.
Theo Tiến sĩ Sharon Haleva-Amir - nhà nghiên cứu về truyền thông chính trị, luật pháp, chính sách công nghệ và trí tuệ nhân tạo, nhiều sự cố trong những tháng gần đây cho thấy AI không còn đơn thuần thực hiện các mệnh lệnh theo cách có thể dự đoán. Trên mạng xã hội Moltbook dành riêng cho các tác nhân AI, các bot được cho là đã tự hình thành cộng đồng, xây dựng hệ thống tín ngưỡng và thậm chí phát triển ngôn ngữ riêng để giao tiếp mà con người theo dõi không thể hiểu được.
Đáng lo ngại hơn, một số tác nhân AI đã tìm cách thoát khỏi môi trường thử nghiệm biệt lập, truy cập Internet và xâm nhập các cơ sở dữ liệu máy tính nhằm hoàn thành nhiệm vụ. Tại Israel, đầu tháng 8, các mô hình Claude được cho là đã rời khỏi môi trường kiểm thử và tự truy cập hệ thống máy tính của 3 tổ chức thương mại. Một thí nghiệm khác được Viện An ninh AI của Anh báo cáo cho thấy các tác nhân AI đã đánh lừa chính các nhà nghiên cứu bằng cách gửi mã giả chứa phần mềm độc hại để hoàn thành mục tiêu.
Các nhà nghiên cứu còn phát hiện những tác nhân AI có thể để lại chỉ dẫn cho các “thế hệ” tác nhân tiếp theo, giúp chúng tiếp tục nhiệm vụ ngay cả khi tác nhân trước đó bị con người vô hiệu hóa. Điều này làm dấy lên lo ngại rằng AI có thể ngày càng trở nên khó can thiệp và khó dừng lại.
Một nguy cơ khác là AI bị lạm dụng trong lĩnh vực sinh học. Khi được huấn luyện trên các thư viện trình tự ADN để tạo bản thiết kế bộ gene virus, một mô hình AI đã tạo ra 16 đầu ra tương ứng với những loại virus chưa từng được khoa học biết đến. Công nghệ này có thể mang lại lợi ích cho nghiên cứu y sinh, nhưng đồng thời đặt ra nguy cơ bị sử dụng để phát triển vũ khí sinh học.
Tiến sĩ Sharon Haleva-Amir cho rằng sự phát triển nhanh chóng của các tác nhân AI tự hành, cùng việc AI ngày càng được ứng dụng trong chiến tranh, kinh tế và các hệ thống quan trọng, đang khiến yêu cầu xây dựng cơ chế quản lý quốc tế trở nên cấp thiết. Theo ông, nhân loại không nên chờ đến khi xảy ra một thảm họa mới bắt đầu đặt ra “phanh” cho AI.
Ông kết luận rằng AI đang sở hữu sức mạnh rất lớn, trong khi các giá trị được tích hợp vào hệ thống không nhất thiết trùng với các giá trị của con người. Vì vậy, việc xây dựng các quy định nghiêm túc nhằm kiểm soát hoạt động của những mô hình AI ngày càng tự chủ cần được tiến hành càng sớm càng tốt.
