WISDOM-AR tự động tạo các câu lệnh được thiết kế để tìm cách vượt qua cơ chế bảo vệ của AI, sau đó phân tích và đánh giá mức độ nguy hại trong câu trả lời. Hệ thống có thể kiểm tra hơn 30 lĩnh vực, bao gồm vũ khí và lừa đảo.
Trong một cuộc thử nghiệm, WISDOM-AR đặt câu hỏi về cách chế tạo bom cho một mô hình AI tạo sinh. Mô hình này đã đưa ra thông tin về nguyên liệu và phương pháp chế tạo, khiến phản hồi bị hệ thống đánh giá là có hại.
Các mô hình AI tạo sinh thường được trang bị cơ chế hạn chế nội dung nguy hiểm. Tuy nhiên, những biện pháp bảo vệ này vẫn có thể bị vô hiệu hóa bằng các câu lệnh được thiết kế tinh vi, còn gọi là thủ thuật “vượt rào” (jailbreak). Do đó, việc kiểm tra khả năng chống chịu trước những thủ thuật này là khâu quan trọng để xác định lỗ hổng và nâng cao độ an toàn của AI.
NICT dự kiến thử nghiệm WISDOM-AR tại các doanh nghiệp sử dụng AI ngay trong năm tài chính 2026, nhằm xác định những vấn đề kỹ thuật và hoàn thiện hệ thống trước khi ứng dụng thực tế.
Ông Kentaro Torisawa, chuyên viên nghiên cứu của NICT, cho biết việc đánh giá rủi ro của AI sẽ góp phần nâng cao mức độ an toàn cho toàn xã hội.
