Màn hình hiển thị một phòng chat chia sẻ nội dung deepfake khiêu dâm trên Telegram. Ảnh: KoreaNow
Động thái trên được đưa ra sau khi truyền thông địa phương đưa tin các phòng chat trên Telegram chia sẻ nội dung khiêu dâm do AI tạo ra, gây ra sự phẫn nộ trong công chúng.
Theo báo cáo năm 2023 của công ty khởi nghiệp an ninh mạng Security Hero, Hàn Quốc là quốc gia dễ bị các đối tượng lạm dụng công nghệ deepfake có nội dung khiêu dâm, trong đó các ca sĩ và diễn viên của nước này bị giả mạo trong 53% trong các video.
JYP Entertainment bày tỏ quan ngại sự lan truyền gần đây của các video deepfake liên quan đến nghệ sĩ công ty. Hiện JYP Entertainment đang thu thập tất cả bằng chứng liên quan để có hành động pháp lý mạnh mẽ nhất.
Đầu tuần này, Tổng thống Hàn Quốc Yoon Suk Yeol đã kêu gọi điều tra nội dung khiêu dâm deepfake, trong đó các cơ quan chức năng cho biết có tới 60% số nạn nhân là trẻ vị thành niên. Truyền thông Hàn Quốc cho biết trong số các nạn nhân còn có binh lính, giáo viên và học sinh.
JYP Entertainment đưa ra thông báo trên khoảng 2 tháng sau khi hãng thu âm ADOR cho biết cảnh sát đang điều tra những người sáng tạo và nhà phân phối hưởng lợi từ nội dung deepfake khiêu dâm sử dụng hình ảnh của nhóm nhạc nữ nổi tiếng là NewJeans.