Trong tuyên bố, Ofcom cho biết đã xuất hiện “những báo cáo hết sức đáng lo ngại về việc tài khoản chatbot AI Grok trên X bị sử dụng để tạo và chia sẻ các hình ảnh nhạy cảm của con người - có thể cấu thành hành vi lạm dụng hình ảnh nhạy cảm hoặc nội dung khiêu dâm - cũng như các hình ảnh tình dục hóa trẻ em, có thể cấu thành nội dung lạm dụng tình dục trẻ em”.
Thủ tướng Keir Starmer trước đó nhận định các hình ảnh do Grok tạo ra là “trái pháp luật”. Ông Starmer hôm 8/1 cho rằng X cần “siết chặt kiểm soát” đối với Grok, đồng thời nhấn mạnh Ofcom nhận được sự ủng hộ đầy đủ của Chính phủ trong việc triển khai các biện pháp cần thiết.
Theo luật pháp Anh, việc tạo hoặc chia sẻ hình ảnh thân mật không có sự đồng thuận, cũng như nội dung lạm dụng tình dục trẻ em, kể cả các hình ảnh tình dục do AI tạo ra, đều là hành vi phạm pháp. Bên cạnh đó, các nền tảng công nghệ có trách nhiệm ngăn người dùng tại Anh tiếp cận nội dung trái phép và phải gỡ bỏ ngay khi phát hiện.
Theo Ofcom, nếu bị xác định vi phạm pháp luật, nền tảng X có thể phải đối mặt với mức phạt lên tới 10% doanh thu toàn cầu hoặc 18 triệu bảng Anh, tùy theo mức nào cao hơn. Trong trường hợp không hợp tác hoặc không khắc phục vi phạm, cơ quan này thậm chí có thể đề nghị tòa án yêu cầu các nhà cung cấp dịch vụ Internet chặn hoàn toàn quyền truy cập X tại Anh.
Trước đó, X đã vấp phải sự chỉ trích tại nhiều quốc gia khác liên quan đến tính năng có thể tạo ra hình ảnh phụ nữ và trẻ vị thành niên trong trang phục nhạy cảm. Giới chức Pháp đã báo cáo vụ việc lên các công tố viên và cơ quan quản lý, gọi đây là nội dung “rõ ràng trái pháp luật”, trong khi nhà chức trách Ấn Độ cũng yêu cầu phía X giải trình.
X hiện đã giới hạn tính năng này cho người dùng trả phí. Tuần trước, nền tảng này cho biết sẽ gỡ bỏ toàn bộ nội dung trái pháp luật và đình chỉ vĩnh viễn các tài khoản liên quan. X nêu rõ: “Bất kỳ ai sử dụng hoặc đưa câu lệnh cho Grok tạo nội dung trái pháp luật sẽ phải chịu hậu quả tương tự như khi tự tải lên nội dung trái pháp luật”.
Theo Ofcom, cuộc điều tra sẽ tập trung vào việc liệu X có không đánh giá đầy đủ nguy cơ người dùng tại Anh tiếp cận nội dung trái pháp luật, cũng như đã xem xét rủi ro đối với trẻ em hay chưa. Trong các trường hợp vi phạm nghiêm trọng nhất, Ofcom có thể đề nghị tòa án yêu cầu “các nhà cung cấp dịch vụ thanh toán hoặc nhà quảng cáo rút dịch vụ khỏi nền tảng”, hoặc yêu cầu các nhà cung cấp dịch vụ Internet chặn truy cập vào trang web này tại Anh.
Phía X hiện chưa phản hồi yêu cầu bình luận về cuộc điều tra của Ofcom.
