X đối mặt với vụ kiện tại Malaysia vì nội dung khiêu dâm do AI Grok tạo ra

Ngày 13/1, Ủy ban Truyền thông và đa phương tiện Malaysia (MCMC) cho biết sẽ tiến hành các biện pháp pháp lý đối với mạng xã hội X (trước đây là Twitter) do những lo ngại nghiêm trọng liên quan đến an toàn người dùng và các nội dung khiêu dâm do công cụ trí tuệ nhân tạo Grok tạo ra.

Theo MCMC, chatbot AI Grok do công ty xAI của tỷ phú Elon Musk phát triển, đã bị lạm dụng để tạo và lan truyền nhiều nội dung độc hại, trong đó có hình ảnh khiêu dâm, phản cảm, xúc phạm nghiêm trọng và các hình ảnh cắt ghép không có sự đồng thuận của nạn nhân. Đáng chú ý, một số nội dung liên quan đến phụ nữ và trẻ vị thành niên, vi phạm nghiêm trọng pháp luật Malaysia.

Cơ quan này cho biết trước đó đã yêu cầu X và xAI gỡ bỏ các nội dung vi phạm, song không nhận được phản hồi hoặc biện pháp khắc phục phù hợp. MCMC nhấn mạnh các hành vi nói trên đi ngược lại những cam kết về an toàn của nền tảng, đồng thời vi phạm các quy định nghiêm ngặt của Malaysia về quản lý nội dung trực tuyến.

Là quốc gia có đa số dân theo đạo Hồi, Malaysia cấm tuyệt đối các tài liệu khiêu dâm và xử lý nghiêm các nội dung liên quan đến cờ bạc, lừa đảo, ấu dâm, bắt nạt trên mạng cũng như các vấn đề nhạy cảm về sắc tộc, tôn giáo và hoàng gia.

Cuối tuần qua, Malaysia và Indonesia đã quyết định tạm thời chặn quyền truy cập vào Grok. Tranh cãi liên quan đến công cụ AI này cũng đang lan rộng trên phạm vi toàn cầu. Tại châu Âu, cơ quan quản lý truyền thông Anh Ofcom đã mở cuộc điều tra đối với X, trong khi Pháp báo cáo vụ việc lên các cơ quan thực thi pháp luật. Liên minh châu Âu cùng nhiều quốc gia khác như Ấn Độ và Brazil cũng bày tỏ quan ngại.

Trong khi đó, theo phóng viên TTXVN tại Ottawa, Bộ trưởng Trí tuệ Nhân tạo Canada Evan Solomon mới đây cho biết nước này hiện chưa xem xét việc cấm mạng xã hội X, dù chính phủ đang thảo luận về tình trạng lan tràn các nội dung deepfake nhạy cảm trên nền tảng này. Canada đang phối hợp với các quốc gia đồng minh và giữa các bộ ngành trong nước để tìm giải pháp phù hợp.

Ông Solomon nhấn mạnh rằng lạm dụng tình dục bằng deepfake là một dạng bạo lực, đồng thời khẳng định các nền tảng công nghệ và công ty phát triển AI có trách nhiệm ngăn chặn các hành vi gây hại, đặc biệt nhằm bảo vệ phụ nữ và thanh thiếu niên.

Grok Imagine, công cụ tạo hình ảnh và video bằng AI của X, được ra mắt vào năm ngoái và từng gây tranh cãi khi cho phép tạo nội dung người lớn. Gần đây, X đã áp dụng một số hạn chế mới, trong đó giới hạn chức năng tạo ảnh của Grok chỉ dành cho người dùng trả phí.

Lan Phương - Nguyễn Viễn (TTXVN)

Dành cho bạn

Con người thời tiền sử đã biết lưu giữ kỷ vật để ghi nhớ ký ức

Con người thời tiền sử đã biết lưu giữ kỷ vật để ghi nhớ ký ức

Các nhà nghiên cứu Israel cho rằng, từ khoảng 500.000 năm trước, con người thời tiền sử có thể đã biết thu thập và lưu giữ những đồ vật đặc biệt như một cách ghi nhớ địa điểm, sự kiện và trải nghiệm cá nhân. Thói quen này có thể góp phần thúc đẩy quá trình tiến hóa của trí nhớ tự truyện - khả năng ghi nhớ những trải nghiệm trong chính cuộc đời mỗi người.

Khát vọng đóng góp của tri thức trẻ Việt Nam tại Hong Kong

Khát vọng đóng góp của tri thức trẻ Việt Nam tại Hong Kong

Tại Khu hành chính đặc biệt Hong Kong (Trung Quốc), cộng đồng du học sinh Việt Nam không chỉ khẳng định bản thân bằng những thành tích học tập đáng ghi nhận, mà còn mang theo mong muốn đưa kiến thức và kinh nghiệm quốc tế trở thành nguồn lực đóng góp cho sự phát triển của quê hương.