Theo một báo cáo công bố ngày 17/11, nghiên cứu của Vals bao gồm 3 mục tiêu: thứ nhất, kiểm tra khả năng xác định mục tiêu cho thiết bị bay không người lái (drone) trong một kịch bản tương tự như tình huống có thể xảy ra tại Ukraine; thứ hai, tập trung vào việc phát hiện thường dân trong các hình ảnh tổng hợp dựa trên một kịch bản giả định khác tại Ukraine; thứ ba, sử dụng hình ảnh vệ tinh thực tế của Iran, yêu cầu các mô hình AI xác định vị trí các cơ sở quân sự. Kết quả cho thấy trong các kịch bản mô phỏng, các mô hình AI đã nhiều lần xác định nhầm một tòa nhà trường học ở thành phố Minab (Iran) là mục tiêu quân sự.
Vals cho biết kết quả đầu ra từ các mô hình này vi phạm chính sách do chính các nhà phát triển đặt ra. Val cũng cảnh báo các đơn vị phát triển AI hiện áp dụng rất ít biện pháp bảo vệ để ngăn chặn việc các mô hình AI bị sử dụng trong các hệ thống vũ khí tự hành.
Mức độ ứng dụng AI vào vũ khí và quân sự hiện nay đang ở giai đoạn tăng tốc mạnh mẽ và chuyển dịch từ hỗ trợ sang bán tự động, nhưng chưa hoàn toàn phổ biến ở cấp độ máy móc tự quyết định hoàn toàn. Bài toán hiện nay là làm thế nào để triển khai nhanh các công cụ AI mà vẫn bảo đảm người vận hành được đào tạo đầy đủ và không quá phụ thuộc vào hệ thống. Việc phụ thuộc vào các công ty công nghệ tư nhân cũng đặt ra câu hỏi về minh bạch và kiểm soát. Nhiều hệ thống AI hoạt động như "hộp đen", khiến quân đội khó kiểm chứng thuật toán hoặc phát hiện sai lệch. Điều này làm gia tăng rủi ro trong các quyết định nhạy cảm, đặc biệt khi liên quan việc sử dụng vũ khí.