Cuộc điều tra được tiến hành sau khi nhiều hình ảnh và video do AI chỉnh sửa sử dụng hình ảnh các sinh viên của một học viện giáo dục ở Quito xuất hiện trên internet. Các đối tượng xấu đã sử dụng công nghệ AI cắt ghép hình ảnh khuôn mặt của các sinh viên tại học viện vào phần cơ thể khỏa thân để dựng các video và ảnh khiêu dâm.
Đại diện chương trình Grupo Rescate Escolar chống bắt nạt học đường, Sybel Martinez, cho biết có khoảng 700 video với nội dung khiêu dâm sử dụng hình ảnh của 20 - 24 sinh viên theo cách trên.
Tại Ecuador, hành vi phát tán các hình ảnh khiêu dâm trẻ em và thanh thiếu niên có thể bị phạt tù lên đến 16 năm.
Sự tiến bộ của AI đang gây ra ngày càng nhiều mối lo ngại công nghệ này có thể bị lạm dụng cho các mục đích xấu như tạo ra những hình ảnh và video giả mạo khuôn mặt bằng cách mô phỏng máy tính dựa trên những dữ liệu thực tế (deepfake).
Theo kết quả nghiên cứu năm 2019 do công ty AI Sensity của Hà Lan thực hiện, khoảng 96% các video deepfake phát tán trên internet có nội dung khiêu dâm và hầu hết nạn nhân bị giả mạo là nữ giới.
