Nền tảng mạng xã hội X và công ty xAI đều của tỷ phú Musk đã hợp nhất hồi tháng 3 trong thương vụ, trị giá 33 tỷ USD.
Theo thông báo của bộ phận an toàn X, nền tảng này sẽ chặn theo khu vực địa lý khả năng tạo hoặc chỉnh sửa hình ảnh người thật trong trang phục gợi cảm như bikini, đồ lót hoặc các dạng tương tự tại những quốc gia mà hành vi này bị coi là trái pháp luật. X cho biết các biện pháp kỹ thuật đã được triển khai nhằm ngăn tài khoản Grok chỉnh sửa hình ảnh người thật theo hướng mang tính khiêu dâm. Quy định mới áp dụng cho tất cả người dùng, bao gồm cả các thuê bao trả phí.
Thông báo được đưa ra chỉ vài giờ sau khi người đứng đầu cơ quan tư pháp bang California Rob Bonta công bố mở cuộc điều tra đối với xAI, liên quan đến việc Grok tạo ra nhiều nội dung độc hại, trong đó có hình ảnh khiêu dâm, phản cảm, xúc phạm nghiêm trọng và các hình ảnh cắt ghép không có sự đồng thuận của nạn nhân.
Trong những tuần gần đây, Grok hứng chịu chỉ trích gay gắt sau khi tính năng “Spicy Mode” cho phép người dùng tạo ra các hình ảnh giả mạo (deepfake) nội tính khiêu dâm chỉ bằng những câu lệnh đơn giản như “mặc bikini” hoặc “cởi quần áo”.
Indonesia ngày 10/1 trở thành quốc gia đầu tiên chặn hoàn toàn quyền truy cập vào Grok, tiếp theo là Malaysia. Ấn Độ cho biết X đã gỡ bỏ hàng nghìn bài đăng và hàng trăm tài khoản sau khi nước này gửi khiếu nại. Tại châu Âu, Cơ quan quản lý truyền thông Anh (Ofcom) đã mở cuộc điều tra về khả năng X vi phạm luật pháp liên quan đến nội dung khiêu dâm trực tuyến.
Tại Pháp, Ủy viên phụ trách vấn đề trẻ em Sarah El Hairy đã chuyển các hình ảnh do Grok tạo ra cho cơ quan công tố, cơ quan quản lý truyền thông Arcom và Liên minh châu Âu (EU). Ủy ban châu Âu (EC) cũng yêu cầu X lưu giữ toàn bộ dữ liệu và tài liệu nội bộ liên quan đến Grok đến hết năm 2026 để phục vụ công tác giám sát. EC hiện đang theo dõi sát các biện pháp khắc phục mà X cam kết thực hiện, song khẳng định sẽ đánh giá độc lập để bảo đảm những thay đổi này thực sự bảo vệ người dùng.
Một nghiên cứu gần đây của tổ chức phi lợi nhuận AI Forensics (Pháp), dựa trên hơn 20.000 hình ảnh do Grok tạo ra, cho thấy hơn một nửa số hình ảnh mô tả nhân vật trong trạng thái ăn mặc hở hang, chủ yếu là phụ nữ; khoảng 2% có dấu hiệu liên quan đến người chưa đủ 18 tuổi. Vụ việc đang làm dấy lên lo ngại về việc kiểm soát nội dung do AI tạo ra, cũng như trách nhiệm pháp lý của các nền tảng công nghệ trong bối cảnh AI ngày càng được tích hợp sâu vào mạng xã hội.
