Phán quyết áp dụng đối với các nội dung liên quan đến cá nhân đang sinh sống tại Hà Lan, đồng thời bao gồm cả hoạt động sản xuất và phát tán các nội dung vi phạm trong lãnh thổ nước này.
Trước đó, Trung tâm chuyên môn về lạm dụng trực tuyến Offlimits và Quỹ hỗ trợ nạn nhân của Hà Lan đã khởi kiện theo thủ tục rút gọn đối với Grok - công cụ AI được tích hợp vào nền tảng mạng xã hội X, đồng thời kêu gọi ban hành lệnh cấm khẩn cấp. Theo các tổ chức này, Grok cho phép người dùng tạo ra các hình ảnh khỏa thân hoặc khiêu dâm giả mạo của các cá nhân mà không có sự đồng ý của họ, cũng như tạo và lan truyền các nội dung mô tả hành vi lạm dụng tình dục đối với trẻ vị thành niên.
Các bên khởi kiện cho rằng việc phổ biến các công cụ AI như Grok đang khiến hành vi lạm dụng trực tuyến trở nên dễ dàng hơn, đồng thời làm gia tăng số lượng nạn nhân và mức độ nghiêm trọng của các tổn hại tâm lý.
Theo Tòa án quận Amsterdam, phía Grok và nền tảng X khẳng định đã đưa ra các quy định cấm trong điều khoản sử dụng, đồng thời triển khai các biện pháp nhằm ngăn chặn việc tạo và phát tán nội dung vi phạm. Tuy nhiên, tòa nhận định các bằng chứng do Offlimits cung cấp cho thấy vẫn tồn tại những nghi ngờ hợp lý về hiệu quả của các biện pháp này.
Tòa án tuyên bố mỗi hành vi vi phạm lệnh cấm sẽ bị xử phạt 100.000 euro (115.000 USD) mỗi ngày, với mức tối đa lên tới 10 triệu euro. Đồng thời, nền tảng X phải đình chỉ hoạt động của công cụ Grok cho đến khi đáp ứng đầy đủ các yêu cầu mà tòa án đưa ra.
Cùng ngày, Nghị viện châu Âu cũng thông qua quyết định liên quan đến các ứng dụng được gọi là “nudifier”, theo đó cấm các hệ thống AI tạo hoặc chỉnh sửa hình ảnh nhạy cảm hoặc mang tính riêng tư của những cá nhân có thể nhận diện khi chưa có sự đồng ý của họ. Động thái này phản ánh xu hướng siết chặt quản lý các công nghệ AI có nguy cơ bị lạm dụng, đặc biệt trong việc tạo ra nội dung giả mạo và xâm phạm quyền riêng tư trên không gian mạng.
