Guardia Civil cho biết: 'Ảnh của nhiều người, tất cả đều là trẻ vị thành niên, đã xuất hiện trên tài khoản này'. Ảnh: theguardian.com
Cuộc điều tra được tiến hành sau khi 16 nữ sinh tại một cơ sở giáo dục ở khu vực Valencia phản ánh rằng hình ảnh khỏa thân giả mạo của các em, được tạo bằng AI, đã bị lan truyền trên mạng xã hội và các nền tảng trực tuyến.
Trường hợp đầu tiên được ghi nhận vào tháng 12/2024, khi một nữ sinh phát hiện tài khoản mạng xã hội mang tên mình đăng tải video và nhiều bức ảnh giả mạo, trong đó cô xuất hiện trong trạng thái "hoàn toàn khỏa thân".
Khi số lượng nạn nhân tiếp tục tăng, cảnh sát nghi ngờ những hình ảnh này do một học sinh nam cùng trường tạo ra. Qua truy vết các địa chỉ IP liên quan đến các tài khoản giả, lực lượng chức năng đã lần ra nơi ở của thiếu niên 17 tuổi.
Giới chức Tây Ban Nha cho biết đây không phải là vụ việc đầu tiên liên quan đến việc sử dụng AI để tạo hình ảnh khiêu dâm liên quan đến trẻ vị thành niên. Hồi tháng 3, chính phủ nước này tuyên bố sẽ đề xuất một đạo luật hình sự hóa hành vi tạo nội dung khiêu dâm deepfake bằng AI mà không có sự đồng thuận của người bị ảnh hưởng. Dự luật - được đánh giá là sáng kiến đầu tiên thuộc loại này ở châu Âu - hiện vẫn đang chờ quốc hội xem xét thông qua.