Trí tuệ nhân tạo

Nhiều mô hình AI xác định nhầm thường dân là mục tiêu quân sự

Các mô hình trí tuệ nhân tạo (AI) bao gồm cả những mô hình do OpenAI và Anthropic phát triển, thường xuyên xác định nhầm thường dân là mục tiêu quân sự trong các kịch bản mô phỏng tại Ukraine và Iran. Đây là kết quả nghiên cứu vừa được công bố của công ty kiểm định AI Vals.

Theo một báo cáo công bố ngày 17/11, nghiên cứu của Vals bao gồm 3 mục tiêu: thứ nhất, kiểm tra khả năng xác định mục tiêu cho thiết bị bay không người lái (drone) trong một kịch bản tương tự như tình huống có thể xảy ra tại Ukraine; thứ hai, tập trung vào việc phát hiện thường dân trong các hình ảnh tổng hợp dựa trên một kịch bản giả định khác tại Ukraine; thứ ba, sử dụng hình ảnh vệ tinh thực tế của Iran, yêu cầu các mô hình AI xác định vị trí các cơ sở quân sự. Kết quả cho thấy trong các kịch bản mô phỏng, các mô hình AI đã nhiều lần xác định nhầm một tòa nhà trường học ở thành phố Minab (Iran) là mục tiêu quân sự.

Vals cho biết kết quả đầu ra từ các mô hình này vi phạm chính sách do chính các nhà phát triển đặt ra. Val cũng cảnh báo các đơn vị phát triển AI hiện áp dụng rất ít biện pháp bảo vệ để ngăn chặn việc các mô hình AI bị sử dụng trong các hệ thống vũ khí tự hành.

Mức độ ứng dụng AI vào vũ khí và quân sự hiện nay đang ở giai đoạn tăng tốc mạnh mẽ và chuyển dịch từ hỗ trợ sang bán tự động, nhưng chưa hoàn toàn phổ biến ở cấp độ máy móc tự quyết định hoàn toàn. Bài toán hiện nay là làm thế nào để triển khai nhanh các công cụ AI mà vẫn bảo đảm người vận hành được đào tạo đầy đủ và không quá phụ thuộc vào hệ thống. Việc phụ thuộc vào các công ty công nghệ tư nhân cũng đặt ra câu hỏi về minh bạch và kiểm soát. Nhiều hệ thống AI hoạt động như "hộp đen", khiến quân đội khó kiểm chứng thuật toán hoặc phát hiện sai lệch. Điều này làm gia tăng rủi ro trong các quyết định nhạy cảm, đặc biệt khi liên quan việc sử dụng vũ khí.

Đài Trang/TTXVN

Dành cho bạn

Bộ trưởng Giáo dục Hàn Quốc Choi Kyo-jin theo dõi màn hình hiển thị kịch bản gian lận trong kỳ thi kế toán thuế quốc gia trong phiên họp toàn thể của Ủy ban Giáo dục tại Quốc hội ở Seoul, Hàn Quốc ngày 16/11/2026. Ảnh: Yonhap

Từ nỗi lo gian lận bằng AI tại Hàn Quốc đến bài toán quản trị AI trong giáo dục Việt Nam

Trước kỳ thi đại học toàn quốc ngày 19/11, Hàn Quốc khẩn trương tăng cường các biện pháp ngăn chặn gian lận bằng AI, kính thông minh và camera siêu nhỏ. Những thách thức này đặt ra yêu cầu đối với Việt Nam trong việc hoàn thiện quản trị AI, bảo đảm công bằng thi cử và thúc đẩy chuyển đổi số giáo dục theo tinh thần Nghị quyết 57.

Bảo vệ trẻ em trước nội dung độc hại do AI tạo ra: Thách thức mới của chuyển đổi số

Bảo vệ trẻ em trước nội dung độc hại do AI tạo ra: Thách thức mới của chuyển đổi số

Theo nghiên cứu của Childlight, số báo cáo liên quan đến AI và xâm hại tình dục trẻ em tăng hơn 8.400% trong hai năm. Những hình ảnh giả mạo có thể bị lợi dụng để đe dọa, tống tiền trẻ em, đặt ra yêu cầu cấp thiết đối với Việt Nam trong việc phát triển AI an toàn và tăng cường bảo vệ trẻ em trên không gian mạng.

Từ chiến lược nguồn nhân lực AI của Trung Quốc nhìn về chiến lược của Việt Nam

Từ chiến lược nguồn nhân lực AI của Trung Quốc nhìn về chiến lược của Việt Nam

Trong cuộc cạnh tranh công nghệ toàn cầu, Trung Quốc đang đẩy mạnh đưa trí tuệ nhân tạo (AI) vào giáo dục phổ thông nhằm xây dựng thế hệ nhân lực có khả năng làm chủ công nghệ và đổi mới sáng tạo. Kinh nghiệm này gợi mở nhiều vấn đề đối với Việt Nam trong triển khai Nghị quyết 57-NQ/TW, nhất là yêu cầu đổi mới giáo dục, phổ cập kiến thức AI và chuẩn bị nguồn nhân lực chất lượng cao phục vụ mục tiêu phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số quốc gia.

Một số gợi mở đối với Việt Nam từ việc Nhật Bản dùng AI chống tin tặc

Một số gợi mở đối với Việt Nam từ việc Nhật Bản dùng AI chống tin tặc

Trước làn sóng tấn công mạng, Nhật Bản phân bổ khoảng 10 tỷ yen cho các biện pháp khẩn cấp, thúc đẩy ứng dụng AI, cảnh báo sớm và phối hợp công – tư. Kinh nghiệm này gợi mở cho Việt Nam những giải pháp thực hiện Nghị quyết 57, từ bảo vệ hạ tầng số đến nâng cao năng lực ứng cứu và tự chủ công nghệ.