Theo tuyên bố của Chính phủ Anh, các công cụ AI đang được sử dụng để tạo ra hình ảnh lạm dụng tình dục trẻ em bằng cách cắt ghép hình ảnh đồi trụy, phản cảm. Do đó, chính phủ đang soạn thảo một số biện pháp để đưa vào Dự luật về tội phạm và cảnh sát. Dự luật này sau đó sẽ được đệ trình lên quốc hội xem xét thông qua.
Bộ trưởng Nội vụ Yvette Cooper tiết lộ chính phủ nước này coi việc sở hữu, tạo lập và phân phối các công cụ AI được thiết kế để phát hành những hình ảnh khiêu dâm của trẻ em là bất hợp pháp. Các cá nhân, tổ chức vi phạm có thể bị xử phạt tới 5 năm tù. Việc sở hữu "sổ tay ấu dâm" AI dạy sử dụng AI để lạm dụng tình dục trẻ em cũng sẽ là bất hợp pháp và có thể bị phạt tới 3 năm tù.
Bên cạnh đó, luật mới cũng sẽ xử lý hình sự những đối tượng “săn mồi” điều hành các trang web được thiết kế cho những kẻ ấu dâm khác chia sẻ nội dung lạm dụng tình dục trẻ em hoặc lời khuyên về cách dụ dỗ trẻ em. Khung hình phạt cao nhất có thể lên tới 10 năm tù.
Bộ trưởng Cooper nhấn mạnh rằng việc đề ra các luật mới nhằm bảo vệ trẻ em tránh khỏi các mối đe dọa ngày càng tăng trên không gian mạng khi công nghệ phát triển, cũng như đảm bảo an toàn cho các em trong cuộc sống hằng ngày.
Động thái trên diễn ra trong bối cảnh Tổ chức Internet Watch Foundation (IWF) cảnh báo về số lượng hình ảnh lạm dụng tình dục trẻ em có sự tiếp tay của AI ngày càng tăng. Chỉ trong khoảng thời gian 30 ngày vào năm ngoái, các chuyên gia phân tích của IWF đã xác định được 3.512 hình ảnh lạm dụng trẻ em có sử dụng AI trên một trang web đen. Tổ chức này cũng chỉ ra rằng số lượng hình ảnh đồi trụy cắt ghép vô cùng nguy hại cũng tăng 10% trong vòng một năm.
