Theo tờ Vox, tay súng người Australia Brenton Harrison Tarrant đã làm mọi thứ hắn có thể để lan truyền vụ xả súng hàng loạt ngày 16/3. Hắn phát trực tiếp vụ tấn công trên mạng xã hội, gắn camera vào người để mô phỏng trò chơi điện tử. Hắn chia sẻ 74 trang có nội dung ủng hộ thuyết người da trắng thượng đẳng để gây sự chú ý của những kẻ cực đoan trên mạng. Hắn đặt cái bẫy khắp internet để lợi dụng luồng tin tức về vụ tấn công. Ngay cả những cơ quan báo chí chuyên nghiệp cũng không thể cưỡng lại được việc phát sóng video thảm sát.

Facebook nhanh chóng gỡ tài khoản Instagram và Facebook của Tarrant, nhưng Facebook không phát hiện được ngay nội dung bạo lực. Chính Chính phủ New Zealand đã đề nghị gỡ video. Các nhà cung cấp dịch vụ internet ở New Zealand vội vã đóng các trang web phát tán video, nhưng khi đó, nhiều trang tương tự đã ngay lập tức xuất hiện và phát tán.

Vì thế video gốc bị gỡ đã không còn là vấn đề quan trọng. Clip bạo lực này đã được tải xuống và đưa lên mạng nhanh hơn phản ứng của các công ty công nghệ. Facebook cho biết đã gỡ 1,5 triệu video trong vòng 24 giờ sau vụ tấn công. Con số đó chỉ là một phần những gì họ có thể xử lý.

Trích đoạn video kẻ xả súng New Zealand phát trực tiếp lên mạng xã hội (nguồn: Dailymail, video có hình ảnh bạo lực, độc giả cân nhắc trước khi xem):

Vụ thảm sát ngày 16/3 cho thấy một vấn đề lớn hơn đang ám ảnh thế giới internet. Các nền tảng công nghệ đang chật vật tự kiểm duyệt nội dung có vấn đề mà người dùng tạo ra, còn các nhà lập pháp hoặc là chần chừ hoặc không đủ trang bị để kiểm duyệt. Nhiều người coi chủ nghĩa cực hữu không nghiêm trọng bằng các hình thức chủ nghĩa cực đoan khác. 

Khi số người chết trong vụ xả súng lên tới 50, vụ tấn công khiến các công ty công nghệ, nhà lập pháp và người dùng mạng xã hội đặt ra câu hỏi: Làm thế nào để kiểm duyệt tư tưởng thù hằn trên mạng một cách hiệu quả?

Công ty công nghệ "bó tay"

Các công ty công nghệ lớn nhất thế giới buộc phải khẩn trương ngăn video bạo lực lan truyền. Facebook cho biết sẽ loại bỏ bất kỳ lời tán dương hay ủng hộ nào dành cho vụ xả súng và thực hiện quy trình đánh dấu những nội dung kỹ thuật số đáng lo ngại. Youtube cho biết đang hành động tích cực để gỡ video bạo lực. Còn Twitter đã đình chỉ tài khoản đăng video gốc. Reddit thì buộc phải hạ hai trang phụ là r/watchpeopledie and r/gory.

Dù nỗ lực vậy nhưng những video về vụ tấn công vẫn dễ dàng được tìm thấy bằng cách tìm kiếm trên mạng, cho dù vụ xả súng đã xảy ra vài ngày. Điều đó cho thấy các công ty công nghệ vẫn thiếu trang bị trong giải quyết các nội dung bạo lực, phân biệt chủng tộc và dã man quá mức đang được chia sẻ trên nền tảng của họ.

Các nhà điều tiết nội dung đối mặt với cuộc chiến gian nan trong gỡ bỏ những nội dung bạo lực và xúc phạm. Youtube có hệ thống tự động gỡ nội dung và tài liệu vi phạm bản quyền hay bị cấm.

Youtube cũng có thể tự động xóa video về vụ xả súng New Zealand nếu nó giống hệt video gốc. Tuy nhiên, không thể sử dụng thuật toán để xóa những video đã chỉnh sửa về vụ thảm sát tại Christchurch, vì Youtube không muốn gỡ bỏ những video tin tức sử dụng một phần video vụ xả súng trong nội dung. Những video đã biên tập sẽ được đánh dấu để đội ngũ nhân viên điều tiết của Youtube xem và xác định có vi phạm chính sách của Youtube không. Do đó, quy trình này vừa gây căng thẳng với người điều tiết vì phải xem video bạo lực, vừa không có tác dụng trong hạn chế sự lan truyền trên mạng.

Tại thời điểm này, về mặt lý thuyết, các công ty công nghệ cần phải thành thục trong ngăn chặn bạo lực, những bài phát biểu thù hằn cực hữu trên nền tảng của mình. Tuy nhiên, họ đã khó khăn với điều này nhiều năm nay.

Sau khi xảy ra vụ một phụ nữ bị một kẻ ủng hộ phát xít Đức giết hại ở Virginia, Mỹ năm 2017, các công ty công nghệ đã đối mặt áp lực lớn trong ngăn chặn những kẻ xúi giục, kích động chủ nghĩa cực hữu. Twitter đình chỉ một loạt tài khoản của những người theo thuyết người da trắng thượng đẳng. Các công ty như PayPal, GoDaddy hay Squarespace đều cấm những nhân vật tương tự sử dụng dịch vụ.

Tuy nhiên, với nhiều nhà phê bình, những hành động này chỉ giải quyết được bề nổi chứ không chạm đến được những tư tưởng phân biệt chủng tộc ăn sâu trên mạng.

Hơn nữa, ngay cả những nỗ lực cải cách tối thiểu cũng khiến những công ty mạng xã hội tốn nhiều tiền. Nếu mạng xã hội kiểm duyệt nội dung, kiểm soát quyền riêng tư, đề nghị người dùng chia sẻ dữ liệu thì họ sẽ bỏ đi. Tiền quảng cáo vì thế sẽ sụt giảm. Thuê người để tăng cường bảo vệ riêng tư và giám sát hoạt động cũng tốn kém.

Nhiều công ty chỉ bắt đầu hành động giải quyết những vấn đề tồn đọng lâu khi rủi ro tài chính nếu không làm gì cả cao hơn chi phí bỏ ra để giải quyết vấn đề.

Ví dụ như Youtube, mạng này bị chỉ trích vì không chống nạn ăn cắp bản quyền và không ngăn chặn tình trạng lạm dụng trẻ em. Các nhà quảng cáo lớn như Disney và Nestle đã xem xét vấn đề sau khi phát hiện quảng cáo của mình xuất hiện trong video đầy bình luận tục tĩu về tình dục nhằm vào trẻ em. Khi đó, Youtube mới “thanh trừng” hàng trăm người sử dụng vi phạm.

Các nghị sĩ mất kiên nhẫn 

Mặc dù các nền tảng công nghệ đã cố gắng trong những năm gần đây, nhưng các nhà lập pháp ngày càng mất kiên nhẫn. Tuy nhiên, những giải pháp mà họ đề xuất lại gặp khó khăn trong theo kịp tốc độ thay đổi của internet.

Quốc hội Mỹ đã gặp khó khăn trong giải quyết vấn đề như xử lý tình trạng lan truyền thông tin sai lệch hay quản lý cách các trang xử lý dữ liệu và quyền riêng tư người dùng.

Một số nghị sĩ còn thậm chí không biết rõ vấn đề khi nói về công nghệ. Ví dụ như có nghị sĩ hỏi Tổng giám đốc điều hành Google về iPhone. Ngay cả khi họ đủ hiểu biết để nói về vấn đề quản lý internet, nhiều nghị sĩ Mỹ cũng ngần ngại xử lý khi biết nó có thể gây ra rủi ro giảm tăng trưởng.

Trong khi đó, internet vẫn đang phát triển. Trong cuộc chạy đua vào Nhà Trắng năm 2020, các ứng cử viên Dân chủ cam kết xử lý những ông lớn công nghệ. Thượng nghị sĩ Elizabeth Warren còn đề xuất giải tán Google, Facebook và Amazon. 

Thế giới ngày càng xuất hiện nhiều đề xuất cải cách. Liên minh châu Âu có Đạo luật Quản lý bảo vệ dữ liệu chung để yêu cầu minh bạch dữ liệu mà các công ty công nghệ thu thập và sử dụng. Một số nước muốn nhổ bỏ nội dung cực đoan. Một ủy ban Quốc hội Anh muốn Facebook chịu trách nhiệm pháp lý với nội dung được đưa lên nền tảng của họ. 

Sau vụ xả súng ở New Zealand, nhiều quan chức Anh cảnh báo công ty công nghệ nên chuẩn bị đối mặt với lực lượng pháp luật nếu không ngăn chặn lan truyền thông điệp thù hằn.

Chủ nghĩa cực đoan Hồi giáo và thuyết người da trắng thượng đẳng

Mạng xã hội đóng vai trò quan trọng trong hỗ trợ lan truyền tư tưởng thù hằn và chủ nghĩa cực đoạn. Ví dụ như khủng bố Nhà nước Hồi giáo (IS) sử dụng mạng xã hội để tuyển thành viên và tuyên truyền. 

Chính phủ Mỹ thường tập trung vào chủ nghĩa cực đoan Hồi giáo cho dù khủng bố cánh hữu nảy sinh ngay từ trong nước.

Tương tự, các công ty công nghệ vạch ra biện pháp đối phó IS trên mạng mà không làm gì để phản ứng với chủ nghĩa dân tộc da trắng và thuyết người da trắng thượng đẳng. Năm 2018, Youtube xóa các video tuyển mộ của IS, trong khi những video tuyên truyền ủng hộ tư tưởng phát xít mới thì vẫn tồn tại hàng tháng, thậm chí hàng năm.

Khi các nhà nghiên cứu Chương trình Chủ nghĩa cực đoan tại Đại học George Washington so sánh chủ nghĩa cực đoan cực hữu với hành vi trực tuyến của IS, họ phát hiện ra rằng các phong trào chủ nghĩa dân tộc da trắng phát triển mạnh hơn chủ nghĩa cực đoan Hồi giáo về mọi khía cạnh. Người theo chủ nghĩa dân tộc da trắng và phát xít cao hơn nhiều so với người ủng hộ IS.

Theo tờ Vox, các công ty công nghệ gặp khó hơn trong theo dõi nội dung cực hữu vì những đối tượng đưa nội dung này lên mạng thường biến tấu thông điệp để có thể bác bỏ ý kiến cho rằng thông điệp của họ có hại.

Tuy nhiên, không kiểm soát các nội dung này gây ra hậu quả. Số vụ tấn công khủng bố cực hữu ở Mỹ tăng gấp bốn trong năm 2017. Năm 2018, có nhiều vụ bùng phát bạo lực cực hữu nghiêm trọng.

Không có vụ nào khiến các công ty công nghệ cải cách. Dù vậy, sau vụ ở New Zealand, đã đến lúc các công ty công nghệ và chính phủ phải nghiêm túc trong đối phó với thuyết người da trắng thượng đẳng.