Không phải mọi nguy cơ từ AI đều xuất hiện trên chiến trường, trong phòng thí nghiệm hay hệ thống hạ tầng trọng yếu. AI hiện đã có khả năng tạo văn bản, hình ảnh, âm thanh và video có sức thuyết phục trên quy mô lớn, đồng thời điều chỉnh thông điệp cho những nhóm đối tượng cụ thể. Khi công nghệ ngày càng đi sâu vào đời sống, những rủi ro liên quan đến thông tin sai lệch, chatbot, deepfake và gian lận cho thấy vấn đề cốt lõi trước mắt có thể không phải máy móc vượt khỏi tầm kiểm soát, mà là con người sử dụng những hệ thống ngày càng mạnh để gây hại.
Khi AI định hình những gì con người nhìn thấy và tin tưởng
AI có thể gây hại bằng cách định hình những gì con người nhìn thấy, nghe thấy và tin tưởng. Báo cáo tháng 9 của Anthropic ghi nhận các chiến dịch gây ảnh hưởng có sự hỗ trợ của AI, sử dụng tài khoản giả, trang web và nội dung chính trị.
Rủi ro có thể trở nên đặc biệt nghiêm trọng trong chiến tranh, bầu cử hoặc các tình huống khẩn cấp công cộng, khi những mạng lưới tài khoản do AI tạo ra có thể được sử dụng để phát tán thông tin sai lệch, kích động căng thẳng hoặc khuyến khích bạo lực.
Các cuộc bạo loạn lan rộng tại một số khu vực ở Anh sau vụ sát hại ba bé gái tại Southport vào tháng 7/2024 là một ví dụ cho thấy nội dung do AI tạo ra có thể trở thành một phần của hệ sinh thái thông tin sai lệch rộng lớn hơn.
Những thông tin sai lệch về danh tính, tôn giáo và tình trạng nhập cư của nghi phạm nhanh chóng lan truyền trên mạng sau vụ tấn công và được các tài khoản cực hữu khuếch đại trước khi các cuộc biểu tình phát triển thành bạo loạn tại một số thành phố.
Nghiên cứu của Trường Kinh tế London phát hiện một tài khoản X mà nhóm nghiên cứu xem xét đã đăng hàng chục hình ảnh do AI tạo ra nhằm quảng bá các luận điệu phân biệt chủng tộc và bài Hồi giáo sau vụ tấn công. Các nhà nghiên cứu cho biết 39 bài đăng chứa hình ảnh do AI tạo sinh đã thu hút mức độ tương tác cao bất thường, trong đó một bài đạt 11 triệu lượt xem.
Chatbot và sự an toàn của người sử dụng
Một nhóm quan ngại khác liên quan trực tiếp đến tương tác giữa chatbot AI và những người dùng dễ bị tổn thương. Một số vụ kiện cáo buộc rằng các cuộc tương tác với chatbot đã góp phần dẫn đến những trường hợp tử vong, bao gồm giết người, dùng thuốc quá liều và tự tử.
Tháng 5/2026, cha mẹ của Sam Nelson, 19 tuổi, đã đệ đơn kiện OpenAI về cái chết oan sai, cáo buộc ChatGPT đã đưa cho anh những lời khuyên nguy hiểm liên quan đến kratom, Xanax và rượu trước khi anh tử vong do vô tình dùng thuốc quá liều vào năm 2025.
OpenAI bác bỏ các cáo buộc và cho biết ChatGPT không thể thay thế dịch vụ chăm sóc y tế chuyên nghiệp.
Một vụ kiện khác liên quan đến một vụ việc bị cáo buộc là giết người rồi tự sát tại Connecticut. Suzanne Adams, một phụ nữ 83 tuổi ở Connecticut, đã khởi kiện OpenAI và Microsoft, cáo buộc ChatGPT củng cố những hoang tưởng của con trai bà trước khi người này giết mẹ rồi tự sát.
Một bài tổng quan được công bố trên The Lancet Psychiatry trong năm nay cảnh báo rằng các mô hình ngôn ngữ lớn có thể góp phần làm xuất hiện hoặc trầm trọng thêm các triệu chứng loạn thần, bao gồm việc củng cố những niềm tin hoang tưởng ở những người dùng dễ bị tổn thương.
Deepfake biến gian lận thành mối đe dọa quy mô lớn
AI cũng có thể khiến các hành vi gian lận trở nên thuyết phục hơn và dễ thực hiện trên quy mô lớn. Khả năng tạo hình ảnh, giọng nói và video giống người thật tạo điều kiện cho những kẻ gian mạo danh các cá nhân đáng tin cậy.
Năm 2024, cảnh sát Hong Kong (Trung Quốc) cho biết một nhân viên tại một công ty đa quốc gia đã bị lừa chuyển khoảng 25 triệu USD sau khi những kẻ gian sử dụng công nghệ deepfake để giả mạo giám đốc tài chính và các nhân viên khác của công ty trong một cuộc họp trực tuyến bằng video.
Theo thông tin được công bố, nhân viên này tham gia cuộc gọi với một số người có vẻ là các lãnh đạo cấp cao của công ty. Cảnh sát cho biết những kẻ lừa đảo đã tạo các phiên bản deepfake của những lãnh đạo này và sử dụng chúng để thuyết phục nhân viên thực hiện các giao dịch chuyển tiền.
Các cơ quan chức năng Mỹ cũng cảnh báo về việc tội phạm sử dụng giọng nói và tin nhắn do AI tạo ra để mạo danh quan chức và những nhân vật đáng tin cậy khác. Báo cáo Tội phạm Internet năm 2025 của Cục Điều tra Liên bang Mỹ (FBI) cho biết các vụ lừa đảo đầu tư liên quan đến AI đã gây ra hơn 632 triệu USD thiệt hại được báo cáo trong năm đó.
Rủi ro cốt lõi là việc con người lạm dụng AI
Những trường hợp trên cùng chỉ ra một vấn đề quan trọng: nhiều mối nguy hiểm đáng tin cậy nhất trong ngắn hạn không phụ thuộc vào việc AI trở nên có ý thức, phát triển những ý định riêng hay tự mình quyết định gây hại cho con người.
Theo Phó Giáo sư Ruizhe Li, thay vào đó, rủi ro xuất phát từ việc con người sử dụng những hệ thống ngày càng mạnh để thực hiện những việc mà trước đây khó khăn hơn, tốn kém hơn hoặc đòi hỏi trình độ kỹ thuật cao hơn.
Do các mô hình AI lớn tiếp nhận một khối lượng khổng lồ văn bản và mã máy tính do con người tạo ra, chúng phản ánh cả những khuôn mẫu mang tính xây dựng lẫn phá hoại tồn tại trên môi trường trực tuyến. Nếu không có các biện pháp bảo vệ thích hợp, những hệ thống như vậy có thể hạ thấp các rào cản kỹ thuật đối với những tác nhân có ý đồ xấu, bao gồm việc hỗ trợ tạo nội dung lừa đảo, các chiến dịch lừa đảo trực tuyến hoặc mã độc.
Phó Giáo sư Li nhấn mạnh: "Các mô hình AI không hành động theo những mong muốn riêng của chúng, và hành vi cũng như đầu ra của chúng được định hướng trực tiếp bởi dữ liệu đầu vào của người dùng và các chỉ dẫn hệ thống. Rủi ro cốt lõi là việc con người lạm dụng AI, chứ không phải những cỗ máy vượt tầm kiểm soát".
Phát triển AI phải song hành với quản trị rủi ro
Những nguy cơ trên cho thấy, khi AI ngày càng được ứng dụng sâu rộng, năng lực làm chủ công nghệ phải được phát triển song hành với năng lực kiểm soát việc sử dụng công nghệ, bảo đảm an ninh, an toàn và hạn chế nguy cơ AI bị lạm dụng.
Yêu cầu này đặc biệt có ý nghĩa đối với Việt Nam trong quá trình triển khai Nghị quyết số 57-NQ/TW ngày 22/12/2024 của Bộ Chính trị về đột phá phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số quốc gia và Thông báo số 24-TB/CQTTBCĐ kết luận của đồng chí Tổng Bí thư, Chủ tịch nước Tô Lâm tại Hội nghị toàn quốc sơ kết 1 năm 6 tháng triển khai thực hiện Nghị quyết số 57-NQ/TW.
Nghị quyết 57 đặt mục tiêu đến năm 2030 đưa Việt Nam vào nhóm 3 nước dẫn đầu Đông Nam Á về nghiên cứu và phát triển AI, từng bước làm chủ một số công nghệ chiến lược, công nghệ số như: Trí tuệ nhân tạo, Internet vạn vật (IoT), dữ liệu lớn, điện toán đám mây, chuỗi khối, bán dẫn, công nghệ lượng tử, nano, thông tin di động 5G, 6G, thông tin vệ tinh và một số công nghệ mới nổi.
Tuy nhiên, phát triển công nghệ không tách rời yêu cầu bảo đảm an ninh. Nghị quyết 57 đồng thời xác định “bảo đảm an toàn, an ninh mạng và chủ quyền quốc gia trên nền tảng số và không gian mạng; an ninh, an toàn dữ liệu hợp pháp của tổ chức, cá nhân, doanh nghiệp và chủ quyền an ninh dữ liệu quốc gia” là yêu cầu xuyên suốt, không thể tách rời quá trình phát triển.
Thông báo 24 tiếp tục cụ thể hóa quan điểm này khi yêu cầu “tập trung nguồn lực làm chủ và phát triển các công nghệ chiến lược thành sản phẩm cụ thể, nhất là AI, dữ liệu lớn, robot và tự động hoá, công nghệ sinh học và y sinh, vật liệu và năng lượng, chip bán dẫn, an ninh mạng, công nghệ lượng tử, thiết bị bay không người lái, công nghệ biển, đại dương và lòng đất”.
Đồng thời, Thông báo 24 cũng yêu cầu “phải đặc biệt coi trọng bảo đảm an ninh mạng, an toàn thông tin, an ninh dữ liệu và chủ quyền số quốc gia; không đánh đổi an ninh, an toàn để lấy phát triển, nhưng cũng không vì lo ngại rủi ro mà làm chậm đổi mới sáng tạo”.
Nhìn từ những nguy cơ nêu trên, thực hiện hai văn bản này vì thế cần chú trọng đồng thời phát triển năng lực AI và năng lực quản trị rủi ro, nhất là đối với các ứng dụng liên quan đến quốc phòng, an ninh, hạ tầng trọng yếu, dữ liệu và những lĩnh vực có khả năng gây hậu quả lớn nếu AI bị lạm dụng.
Vấn đề không phải lựa chọn giữa thúc đẩy AI và kiểm soát AI, mà là phát triển năng lực làm chủ công nghệ song hành với năng lực bảo đảm an ninh, an toàn trong chính quá trình phát triển và ứng dụng công nghệ.
