Hà Lan cấm Grok vì nội dung nhạy cảm và xâm hại trẻ em

Ngày 26/3, một tòa án tại Hà Lan đã ra phán quyết cấm Grok tạo lập và phát tán các hình ảnh khỏa thân, cũng như nội dung khiêu dâm liên quan đến trẻ em.

Phán quyết áp dụng đối với các nội dung liên quan đến cá nhân đang sinh sống tại Hà Lan, đồng thời bao gồm cả hoạt động sản xuất và phát tán các nội dung vi phạm trong lãnh thổ nước này.

Trước đó, Trung tâm chuyên môn về lạm dụng trực tuyến Offlimits và Quỹ hỗ trợ nạn nhân của Hà Lan đã khởi kiện theo thủ tục rút gọn đối với Grok - công cụ AI được tích hợp vào nền tảng mạng xã hội X, đồng thời kêu gọi ban hành lệnh cấm khẩn cấp. Theo các tổ chức này, Grok cho phép người dùng tạo ra các hình ảnh khỏa thân hoặc khiêu dâm giả mạo của các cá nhân mà không có sự đồng ý của họ, cũng như tạo và lan truyền các nội dung mô tả hành vi lạm dụng tình dục đối với trẻ vị thành niên.

Các bên khởi kiện cho rằng việc phổ biến các công cụ AI như Grok đang khiến hành vi lạm dụng trực tuyến trở nên dễ dàng hơn, đồng thời làm gia tăng số lượng nạn nhân và mức độ nghiêm trọng của các tổn hại tâm lý.

Theo Tòa án quận Amsterdam, phía Grok và nền tảng X khẳng định đã đưa ra các quy định cấm trong điều khoản sử dụng, đồng thời triển khai các biện pháp nhằm ngăn chặn việc tạo và phát tán nội dung vi phạm. Tuy nhiên, tòa nhận định các bằng chứng do Offlimits cung cấp cho thấy vẫn tồn tại những nghi ngờ hợp lý về hiệu quả của các biện pháp này.

Tòa án tuyên bố mỗi hành vi vi phạm lệnh cấm sẽ bị xử phạt 100.000 euro (115.000 USD) mỗi ngày, với mức tối đa lên tới 10 triệu euro. Đồng thời, nền tảng X phải đình chỉ hoạt động của công cụ Grok cho đến khi đáp ứng đầy đủ các yêu cầu mà tòa án đưa ra.

Cùng ngày, Nghị viện châu Âu cũng thông qua quyết định liên quan đến các ứng dụng được gọi là “nudifier”, theo đó cấm các hệ thống AI tạo hoặc chỉnh sửa hình ảnh nhạy cảm hoặc mang tính riêng tư của những cá nhân có thể nhận diện khi chưa có sự đồng ý của họ. Động thái này phản ánh xu hướng siết chặt quản lý các công nghệ AI có nguy cơ bị lạm dụng, đặc biệt trong việc tạo ra nội dung giả mạo và xâm phạm quyền riêng tư trên không gian mạng.

Thuỳ Dung (TTXVN)

Dành cho bạn

Bảo vệ trẻ em trước nội dung độc hại do AI tạo ra: Thách thức mới của chuyển đổi số

Bảo vệ trẻ em trước nội dung độc hại do AI tạo ra: Thách thức mới của chuyển đổi số

Theo nghiên cứu của Childlight, số báo cáo liên quan đến AI và xâm hại tình dục trẻ em tăng hơn 8.400% trong hai năm. Những hình ảnh giả mạo có thể bị lợi dụng để đe dọa, tống tiền trẻ em, đặt ra yêu cầu cấp thiết đối với Việt Nam trong việc phát triển AI an toàn và tăng cường bảo vệ trẻ em trên không gian mạng.

Google hỗ trợ phân tích chi tiêu và lập ngân sách cá nhân

Google hỗ trợ phân tích chi tiêu và lập ngân sách cá nhân

Công ty công nghệ Google vừa công bố tính năng mới cho phép người dùng kết nối trợ lý trí tuệ nhân tạo (AI) Gemini với ví điện tử Google Wallet để phân tích chi tiêu, lập ngân sách và theo dõi các khoản thanh toán định kỳ trực tiếp ngay trên giao diện trò chuyện.

Alibaba ra mắt mô hình AI chủ lực mới, nâng cấp về an toàn

Alibaba ra mắt mô hình AI chủ lực mới, nâng cấp về an toàn

Ngày 15/11, tập đoàn Alibaba của Trung Quốc cho ra mắt mô hình trí tuệ nhân tạo (AI) chủ lực mới Qwen4-Max. Theo Alibaba, mô hình mới có khả năng xử lý tốt hơn các công việc chuyên môn và khoa học phức tạp, đồng thời tăng cường các biện pháp bảo vệ trước rủi ro về an toàn.

Đối phó với nguy cơ AI tự tiến hành các cuộc tấn công mạng

Đối phó với nguy cơ AI tự tiến hành các cuộc tấn công mạng

Khi AI ngày càng có khả năng tự thực hiện nhiều thao tác trên không gian mạng, nguy cơ các cuộc tấn công được tự động hóa đang trở thành mối quan tâm mới của nhiều quốc gia. Với Việt Nam, đây cũng là thách thức cần tính đến khi các hệ thống số và hạ tầng dữ liệu ngày càng mở rộng.

Tên lửa gặp sự cố, Amazon mất 40 vệ tinh Internet

Tên lửa gặp sự cố, Amazon mất 40 vệ tinh Internet

Tên lửa Vulcan của liên doanh hàng không vũ trụ United Launch Alliance (ULA) gặp sự cố khoảng 10 phút sau khi rời bệ phóng tại bang Florida (Mỹ) ngày 15/11, khiến toàn bộ 40 vệ tinh Internet của Amazon không thể vào quỹ đạo.