Biểu tượng của mạng xã hội TikTok. Ảnh: AFP/TTXVN
Trung tâm minh bạch thuật toán châu Âu (ECAT) mới được thành lập ở Seville (Tây Ban Nha) nhận trọng trách thực hiện nhiệm vụ này.
Chế nhạo chủng tộc, phân biệt giới tính và các hình thức ngôn từ thù địch khác cũng như những lời kêu gọi bạo lực từ lâu đã trở thành một vấn đề nghiêm trọng trên mạng trực tuyến.
Phương tiện truyền thông xã hội từ lâu đã cung cấp cho người dùng nhiều thứ hơn là chỉ dừng lại ở giải trí đơn thuần. Chúng cũng thường xuyên bị lạm dụng cho chiến tranh thông tin, phổ biến tin giả và thậm chí huy động các nhóm cực đoan. Trên các nền tảng như Tiktok, chủ yếu được sử dụng bởi thanh niên, xuất hiện cả nội dung khuyến khích chứng rối loạn ăn uống và thậm chí là tự làm hại bản thân.
Bà Josephine Ballon tại tổ chức HateAid vì nạn nhân của ngôn từ thù địch trên mạng, nhận định: “Các nền tảng này không chỉ là nơi lưu trữ nội dung do người dùng tạo, mà còn có các hệ thống thuật toán xác định cách phân phối nội dung”.
Các hệ thống này thu thập dữ liệu để xác định nội dung nào người dùng có thể xem và không xem. Các bài đăng mà người dùng đã thích và bình luận được phân tích để đưa ra nội dung hiển thị tiếp theo. Bà Josephine Ballon nhận định: “Các thuật toán này không công khai, vì vậy chúng tôi hầu như không biết chúng thực sự hoạt động như thế nào”.
Hiện EU đang cố gắng giải quyết vấn đề này. Vào tháng 11/2022, Đạo luật Dịch vụ Kỹ thuật số (DSA) có hiệu lực. Nó điều chỉnh các dịch vụ trực tuyến và nhằm mục đích làm rõ các quy tắc đối với internet ở EU, đặc biệt là với các nền tảng có hơn 45 triệu người dùng. Luật cũng yêu cầu các nhà cung cấp dịch vụ điều tra, phân tích và đánh giá rủi ro hệ thống trong dịch vụ của họ, bao gồm cả hệ thống thuật toán của họ.
Bên cạnh đó, DSA cũng tạo điều kiện để các nhà nghiên cứu có thể tiếp cận nhiều hơn vào dữ liệu của những tập đoàn công nghệ lớn. Trong tương lai, các ông lớn công nghệ sẽ được yêu cầu trình diện thường niên trước Ủy ban châu Âu (EC) để báo cáo đánh giá rủi ro về các nội dung độc hại cũng như đưa ra biện pháp xử lý.
Ảnh minh họa. Nguồn: DW
ECAT chính thức được khánh thành vào ngày 18/4. Khoảng 30 nhân viên bao gồm các chuyên gia trí tuệ nhân tạo (AI), nhà khoa học dữ liệu và nhà khoa học xã hội sẽ tư vấn cho EC về việc triển khai DSA. Họ đồng thời vẫn giữ liên lạc với các chuyên gia khác. ECAT và DSA hướng đến mục tiêu khiến các thuật toán mà những công ty công nghệ lớn sử dụng để đề xuất nội dung cho người dùng của họ, trở nên minh bạch hơn.
Theo phó Chủ tịch EC Margrethe Versager, ECAT sẽ kiểm tra các nền tảng trực tuyến lớn cũng như công cụ tìm kiếm trực tuyến lớn để xem xét “cách các thuật toán của họ hoạt động góp phần truyền bá nội dung có hại và bất hợp pháp mà nhiều người dân châu Âu đã gặp phải”.
Bà Angela Müller tại tổ chức nghiên cứu phi lợi nhuận AlgorithmWatch nhận định với DW: “Tôi không cho rằng DSA là cách mạng nhưng nó chắc chắn là bước đi quan trọng đúng hướng”.