Ngày 23/7, các chính phủ trong EU nhất trí gia hạn cơ chế tạm thời “Chat Control” (kiểm soát trò chuyện) đến ngày 3/4/2028. Quy định cho phép các nền tảng trực tuyến tiếp tục tự nguyện rà quét nội dung xâm hại tình dục trẻ em (CSAM), trong khi EU vẫn tranh luận về cơ chế lâu dài có thể bắt buộc doanh nghiệp phát hiện loại nội dung này.

Theo truyền thông châu Âu, quyết định được thông qua khi có 25 quốc gia ủng hộ, một nước phản đối và một nước bỏ phiếu trắng. Các dịch vụ mã hóa đầu cuối như WhatsApp và Signal được loại khỏi phạm vi của cơ chế tạm thời.

Tuy nhiên, tâm điểm tranh cãi nằm ở dự luật dài hạn thường được gọi là “Chat Control 2.0”, nơi mục tiêu bảo vệ trẻ em xung đột với những lo ngại về giám sát hàng loạt và tương lai của mã hóa đầu cuối.

EU muốn kiểm soát nội dung thế nào?

Ủy ban châu Âu đề xuất quy định phòng, chống xâm hại tình dục trẻ em vào tháng 5/2022, dự kiến áp dụng trên toàn EU bất kể doanh nghiệp đặt trụ sở ở đâu. Đề xuất cũng thành lập một trung tâm chuyên trách của EU để điều phối công nghệ phát hiện và chuyển các trường hợp được xác nhận tới Europol cùng cơ quan thực thi pháp luật.

EU lập luận vấn đề đang ở quy mô đáng báo động. Một tài liệu của Nghị viện châu Âu ghi nhận hơn 20,5 triệu trường hợp nghi liên quan CSAM trong năm 2024. Europol cũng cảnh báo những kẻ phạm tội ngày càng tận dụng các nền tảng phổ biến, tính ẩn danh và công nghệ mã hóa để che giấu hoạt động.

Theo đề xuất, các nền tảng trước tiên phải đánh giá nguy cơ dịch vụ bị lợi dụng và áp dụng biện pháp giảm thiểu. Nếu rủi ro vẫn đáng kể, cơ quan chức năng có thể đề nghị tòa án hoặc cơ quan độc lập ban hành “lệnh phát hiện” có mục tiêu và giới hạn thời gian.

Nội dung bất hợp pháp đã được xác định có thể được phát hiện bằng công nghệ “hashing”, tức đối chiếu dấu vân tay kỹ thuật số của tệp. Với nội dung mới hoặc những cuộc trò chuyện có dấu hiệu dụ dỗ trẻ em, hệ thống có thể sử dụng trí tuệ nhân tạo kết hợp kiểm tra của con người.

Tranh cãi đặc biệt gay gắt với ứng dụng mã hóa đầu cuối. Một giải pháp được đề xuất là quét nội dung trên thiết bị người dùng, tức kiểm tra nội dung ngay trên thiết bị trước khi tin nhắn được mã hóa và gửi đi.

Lo ngại biến thành giám sát hàng loạt

Các tổ chức bảo vệ quyền kỹ thuật số cho rằng dù được cho là có mục đích, việc xây dựng hạ tầng rà quét trên toàn nền tảng vẫn có thể mở đường cho giám sát hàng loạt. Các cơ quan giám sát quyền riêng tư EU cũng cảnh báo đề xuất có nguy cơ dẫn tới kiểm tra rộng rãi những trao đổi thông thường, xung đột với quyền riêng tư được bảo vệ trong Hiến chương EU.

Patrick Breyer, nhà hoạt động quyền kỹ thuật số và cựu nghị sĩ Nghị viện châu Âu, cho rằng giới hoạch định chính sách đặt quá nhiều niềm tin vào độ chính xác của công nghệ. Ông dẫn số liệu từ Đức cho thấy hơn một nửa số báo cáo được chuyển tới cơ quan chức năng không liên quan đến hành vi phạm tội, dù phần lớn được phát hiện bằng công nghệ đối chiếu dấu vân tay kỹ thuật số.

Nguy cơ xác định nhầm càng đáng chú ý với trẻ vị thành niên, khi các em có thể tự tạo và chia sẻ hình ảnh nhạy cảm mà không nhận thức đầy đủ hậu quả.

Những người phản đối cũng cho rằng kiểm tra nội dung trước khi mã hóa sẽ làm suy yếu bản chất của mã hóa đầu cuối. Electronic Frontier Foundation cảnh báo công nghệ này có thể tạo ra lớp kiểm tra thường trực trên thiết bị, có nguy cơ bị mở rộng sang các mục đích khác và ảnh hưởng tới nhà báo, người tố giác hay những người cần liên lạc bí mật.

Hiệu quả của biện pháp

Ở chiều ngược lại, những người ủng hộ cho rằng hệ thống hiện nay phụ thuộc quá nhiều vào hoạt động tự nguyện của các công ty công nghệ. Nếu doanh nghiệp ngừng rà quét, cơ quan chức năng có thể mất nguồn tin quan trọng để phát hiện các vụ xâm hại trẻ em.

Europol từng cảnh báo khoảng trống pháp lý có thể khiến lượng thông tin chuyển tới cảnh sát và các tổ chức bảo vệ trẻ em giảm đáng kể. Phe ủng hộ vì vậy muốn thay cơ chế tạm thời bằng quy định thống nhất trên toàn EU, đi kèm sự giám sát tư pháp và giới hạn rõ ràng.

Ngay cả nhiều người phản đối cũng thừa nhận cần tăng cường chống xâm hại trẻ em trên mạng. Bất đồng cốt lõi nằm ở phạm vi giám sát: chỉ nhắm tới nghi phạm cụ thể hay cho phép rà quét lượng lớn thông tin liên lạc.

Trong lúc chưa đạt thỏa thuận cuối cùng, cơ chế rà quét tự nguyện được gia hạn đến tháng 4/2028 đóng vai trò giải pháp cầu nối.

Tranh luận về “Chat Control” vì thế vượt xa câu chuyện kiểm soát một loại nội dung bất hợp pháp. EU phải tìm ra điểm cân bằng giữa khả năng truy tìm tội phạm trong môi trường ngày càng được mã hóa và bảo vệ quyền riêng tư của người dùng. Đây cũng là tiền lệ quan trọng cho câu hỏi rộng hơn: nhà chức trách có thể đi xa đến đâu trong việc kiểm tra những không gian liên lạc vốn được coi là riêng tư.