Biểu tượng Grok chatbot. Ảnh: REUTERS/TTXVN
Theo MCMC, chatbot AI Grok do công ty xAI của tỷ phú Elon Musk phát triển, đã bị lạm dụng để tạo và lan truyền nhiều nội dung độc hại, trong đó có hình ảnh khiêu dâm, phản cảm, xúc phạm nghiêm trọng và các hình ảnh cắt ghép không có sự đồng thuận của nạn nhân. Đáng chú ý, một số nội dung liên quan đến phụ nữ và trẻ vị thành niên, vi phạm nghiêm trọng pháp luật Malaysia.
Cơ quan này cho biết trước đó đã yêu cầu X và xAI gỡ bỏ các nội dung vi phạm, song không nhận được phản hồi hoặc biện pháp khắc phục phù hợp. MCMC nhấn mạnh các hành vi nói trên đi ngược lại những cam kết về an toàn của nền tảng, đồng thời vi phạm các quy định nghiêm ngặt của Malaysia về quản lý nội dung trực tuyến.
Là quốc gia có đa số dân theo đạo Hồi, Malaysia cấm tuyệt đối các tài liệu khiêu dâm và xử lý nghiêm các nội dung liên quan đến cờ bạc, lừa đảo, ấu dâm, bắt nạt trên mạng cũng như các vấn đề nhạy cảm về sắc tộc, tôn giáo và hoàng gia.
Cuối tuần qua, Malaysia và Indonesia đã quyết định tạm thời chặn quyền truy cập vào Grok. Tranh cãi liên quan đến công cụ AI này cũng đang lan rộng trên phạm vi toàn cầu. Tại châu Âu, cơ quan quản lý truyền thông Anh Ofcom đã mở cuộc điều tra đối với X, trong khi Pháp báo cáo vụ việc lên các cơ quan thực thi pháp luật. Liên minh châu Âu cùng nhiều quốc gia khác như Ấn Độ và Brazil cũng bày tỏ quan ngại.
Trong khi đó, theo phóng viên TTXVN tại Ottawa, Bộ trưởng Trí tuệ Nhân tạo Canada Evan Solomon mới đây cho biết nước này hiện chưa xem xét việc cấm mạng xã hội X, dù chính phủ đang thảo luận về tình trạng lan tràn các nội dung deepfake nhạy cảm trên nền tảng này. Canada đang phối hợp với các quốc gia đồng minh và giữa các bộ ngành trong nước để tìm giải pháp phù hợp.
Ông Solomon nhấn mạnh rằng lạm dụng tình dục bằng deepfake là một dạng bạo lực, đồng thời khẳng định các nền tảng công nghệ và công ty phát triển AI có trách nhiệm ngăn chặn các hành vi gây hại, đặc biệt nhằm bảo vệ phụ nữ và thanh thiếu niên.
Grok Imagine, công cụ tạo hình ảnh và video bằng AI của X, được ra mắt vào năm ngoái và từng gây tranh cãi khi cho phép tạo nội dung người lớn. Gần đây, X đã áp dụng một số hạn chế mới, trong đó giới hạn chức năng tạo ảnh của Grok chỉ dành cho người dùng trả phí.