Liệu rằng Facebook có nhận diện được mối đe dọa từ những dòng tin nhắn do chính kẻ xả súng gửi đi và báo cho lực lượng chức năng? Đây là câu hỏi mà Thống đốc bang Texas Greg Abbott đặt ra cho mạng xã hội lớn nhất thế giới, nhấn mạnh các nền tảng cần thực sự đầu tư công nghệ để phát hiện ra các mối đe dọa tiềm tàng.
Theo hãng tin AP, mặc dù Thống đốc Abbott gọi những dòng tin nhắn của nghi phạm Ramos là bài đăng – nội dung được lượng độc giả lớn tiếp cận song khi bắt tay vào điều tra, Meta – công ty mẹ của Facebook – giải thích nghi phạm đã gửi những dòng tin nhắn đó trong mục tin nhắn riêng và những nội dung này không được phát hiện cho đến sau khi “thảm kịch tồi tệ xảy ra”.
Các vụ xả súng hàng loạt mới nhất ở Mỹ đang gây thêm sức ép đối với các công ty truyền thông trong việc tăng cường giám sát các nền tảng chia sẻ trực tuyến.
Trong một tuyên bố, Meta cho biết công ty giám sát các tin nhắn cá nhân của người dùng để loại bỏ một số nội dung có hại, chẳng hạn như liên kết đến phần mềm độc hại hoặc hình ảnh xâm phạm tình dục trẻ em. Các liên kết hoặc hình ảnh này có thể được phát hiện bằng cách sử dụng các mã nhận dạng duy nhất - một loại chữ ký số - khiến chúng tương đối dễ dàng để các hệ thống máy tính gắn nhãn cảnh báo. Tuy nhiên, đối với việc nhận diện các từ ngữ đe dọa – nhiều khi được dùng trong các câu nói đùa, châm biếm hoặc lời bài hát, nhiệm vụ đó trở nên khó khăn hơn nhiều đối với hệ thống trí tuệ nhân tạo.
Ví dụ, Facebook có thể gắn nhãn cảnh báo đối với những nội dung có từ “sẽ giết” hoặc “sẽ bắn”, nhưng nếu không trong ngữ cảnh cụ thể, công nghệ AI nhìn chung sẽ gặp khó khăn và đưa ra rất nhiều cảnh báo giả để Meta phân tích. Chính vì vậy, Facebook và các nền tảng khác phụ thuộc vào báo cáo của người dùng để xác định các nội dung đe dọa, vi phạm quy định chính sách. Tuy nhiên, thông thường khi đến được bước đó thì mọi chuyện đã quá muộn.
Meta cho hay ngay cả hệ thống giám sát hiện giờ trên Facebook cũng sẽ sớm lỗi thời. Công ty này có kế hoạch triển khai một hệ thống mã hóa tin nhắn trên Facebook và Instagram vào năm tới. Trong hệ thống mã hóa này, ngoại trừ người nhận và người gửi, ngay cả Meta cũng không thể đọc được nội dung tin nhắn. Nền tảng WhatsApp trước đó đã áp dụng công nghệ mã hóa này.
Một báo cáo gần đây của Meta đã nhấn mạnh những lợi ích về quyền riêng tư nhưng cũng lưu ý một số rủi ro, trong đó người dùng có thể lạm dụng mã hóa để xâm phạm tình dục trẻ em, thực hiện hành vi buôn bán người và phát tán ngôn từ kích động thù địch.
Từ lâu ông lớn công nghệ Apple áp dụng công nghệ mã hóa đối với hệ thống nhắn tin. Tuy nhiên, điều này luôn khiến nhà sản xuất iPhone đi ngược với quan điểm của Bộ Tư pháp Mỹ về quyền riêng tư trong nhắn tin. Sau vụ bắn chết ba thủy thủ Mỹ tại một cơ sở của Hải quân vào tháng 12/2019, Bộ Tư pháp khẳng định các nhà điều tra cần quyền truy cập vào dữ liệu từ hai chiếc iPhone đã bị khóa của nghi phạm.
Các chuyên gia bảo mật giải thích việc này có thể được thực hiện nếu như Apple thiết kế một "cửa sau" cho phép truy cập vào các tin nhắn được nghi phạm gửi đi. Nhưng cũng chính các chuyên gia cảnh báo những “cửa sau” như vậy trong hệ thống mã hóa sẽ khiến chúng trở nên không an toàn. Chỉ cần biết rằng tồn tại một lỗ hổng là đủ để gián điệp và tội phạm trên thế giới dễ dàng mở khóa an toàn.
