Theo hãng thông tấn Yonhap, yêu cầu trên được KMCC đưa ra trong bối cảnh gia tăng lo ngại về các nội dung khiêu dâm deepfake có thể được tạo và lan truyền thông qua các nền tảng AI. Trong thông cáo, KMCC đề nghị đơn vị vận hành X ngăn chặn các hành vi có khả năng vi phạm pháp luật trên Grok, đồng thời trình các biện pháp bảo vệ thanh thiếu niên khỏi những nội dung độc hại, bao gồm việc hạn chế hoặc quản lý quyền truy cập.
Luật pháp Hàn Quốc quy định các nền tảng mạng xã hội như X bắt buộc phải chỉ định cán bộ phụ trách bảo vệ trẻ vị thành niên và nộp báo cáo hằng năm về các biện pháp liên quan. Bên cạnh đó, việc tạo ra, lưu trữ hoặc phát tán nội dung khiêu dâm deepfake mà không có sự đồng thuận của người liên quan có thể bị xử lý hình sự.
Chủ tịch KMCC Kim Jong Cheol cho biết cơ quan này sẽ chủ động xây dựng các quy định phù hợp và hoàn thiện chính sách nhằm ngăn chặn việc lan truyền thông tin bất hợp pháp, bao gồm nội dung xâm hại tình dục. Ông đồng thời yêu cầu các nhà cung cấp dịch vụ AI thực hiện nghĩa vụ bảo vệ trẻ vị thành niên.
Grok Imagine, công cụ tạo hình ảnh và video bằng AI của X, được ra mắt vào năm ngoái và từng gây tranh cãi khi cho phép tạo nội dung người lớn. Gần đây, làn sóng phản ứng trên toàn cầu gia tăng sau khi công cụ này bị phát hiện cho phép tình dục hóa hình ảnh phụ nữ và trẻ em, làm dấy lên lo ngại về tình trạng lạm dụng deepfake. Trước sức ép dư luận, X đã áp dụng một số hạn chế mới, trong đó giới hạn chức năng tạo ảnh của Grok chỉ dành cho người dùng trả phí.
Indonesia và Malaysia là những quốc gia đầu tiên cấm hoàn toàn Grok, trong khi tại nhiều thị trường khác, công cụ này chỉ còn hoạt động ở quy mô người dùng trả phí.
