Nội dung do trí tuệ nhân tạo tạo ra ngày càng chân thực, khiến việc phân biệt thật - giả bằng mắt thường trở nên khó khăn. Những bức ảnh, đoạn video lan truyền trên mạng xã hội có thể hoàn toàn là sản phẩm của thuật toán nhưng trông giống như được ghi lại ngoài đời thực. Trong khi đó, giọng nói tổng hợp có thể bắt chước ngữ điệu, nhịp thở và cách ngắt nghỉ của con người, mở rộng nguy cơ giả mạo danh tính và lừa đảo.
Trước thực tế này, các công cụ phát hiện nội dung do AI tạo ra được kỳ vọng trở thành một lớp bảo vệ trước thông tin sai lệch. Tuy nhiên, một loạt thử nghiệm của tờ New York Times với hơn 1.000 lượt kiểm tra cho thấy khả năng của những công cụ này vẫn còn nhiều giới hạn.
Kết quả thử nghiệm có ý nghĩa không chỉ với người dùng mạng xã hội mà còn với các cơ quan báo chí, tổ chức kiểm chứng thông tin và doanh nghiệp. Khi chuyển đổi số mở rộng trên nhiều lĩnh vực, độ tin cậy của thông tin và khả năng xác minh dữ liệu ngày càng trở thành những yếu tố quan trọng đối với hoạt động quản lý, sản xuất và giao tiếp trên môi trường số.
Công cụ phát hiện AI chưa thể đưa ra kết luận tuyệt đối
Hiện có hơn một chục công cụ trực tuyến tuyên bố có thể nhận diện nội dung do AI tạo ra thông qua việc tìm kiếm dấu bản quyền số ẩn, những bất thường trong bố cục hoặc các đặc điểm kỹ thuật do thuật toán để lại. Một số chatbot cũng được sử dụng để phân tích hình ảnh, video, âm thanh và âm nhạc.
Trong thử nghiệm của New York Times, phần lớn công cụ nhận diện khá tốt những hình ảnh giả có dấu hiệu dễ nhận biết. Nhóm nghiên cứu yêu cầu ChatGPT tạo một bức ảnh hai người đang cười. Dù hình ảnh trông tự nhiên, một số chi tiết như ánh sáng quá hoàn hảo, đường nét khuôn mặt mượt bất thường và bàn tay hơi méo vẫn có thể là dấu hiệu của ảnh do AI tạo ra.
Phần lớn công cụ được thử nghiệm nhanh chóng xác định đây là hình ảnh nhân tạo. Tuy nhiên, chính ChatGPT lại không nhận ra bức ảnh do mình tạo ra là sản phẩm của AI.
Những công cụ này thường được huấn luyện bằng các tập dữ liệu lớn gồm nội dung thật và nội dung nhân tạo để tìm ra những dấu hiệu phân biệt. Tuy nhiên, khi công nghệ tạo sinh liên tục cải tiến, những dấu hiệu từng giúp nhận diện nội dung giả có thể trở nên khó phát hiện hơn.
Giáo sư Mike Perkins thuộc British University Vietnam (BUV), người từng nghiên cứu về các công cụ phát hiện AI, cho rằng sẽ không có công cụ nào có thể phát hiện chính xác 100% nội dung do AI tạo ra, dù đó là văn bản, hình ảnh hay video. Theo ông, công nghệ tạo sinh và công nghệ phát hiện sẽ tiếp tục chạy đua với nhau.
Hạn chế này cho thấy không nên xem kết quả từ một công cụ phát hiện là bằng chứng cuối cùng để kết luận một nội dung thật hay giả. Đối với báo chí, chẳng hạn, việc một công cụ đánh dấu hình ảnh là do AI tạo ra không thể thay thế quá trình xác minh nguồn ảnh, thời gian, địa điểm và bối cảnh xuất hiện của hình ảnh đó.
Tương tự, một nội dung bị công cụ đánh dấu là nhân tạo chưa chắc đã là thông tin sai sự thật; ngược lại, nội dung được đánh giá là thật cũng không đồng nghĩa với việc thông tin đi kèm đã được kiểm chứng.
Hình ảnh, video và âm thanh có mức độ nhận diện khác nhau
Thử nghiệm cho thấy khả năng phát hiện còn phụ thuộc đáng kể vào loại nội dung và mức độ phức tạp của sản phẩm do AI tạo ra.
Với những hình ảnh có dấu hiệu giả mạo tương đối rõ, nhiều công cụ hoạt động khá hiệu quả. Nhưng khi nhóm nghiên cứu sử dụng hình ảnh một cảng biển hư cấu do AI tạo ra, không có khuôn mặt người và chủ yếu gồm các chi tiết phong cảnh, một số công cụ lại nhầm lẫn, đánh giá đó là ảnh thật.
Một nguyên nhân có thể là nhiều công cụ được phát triển hoặc huấn luyện chủ yếu để nhận diện khuôn mặt giả, phục vụ an ninh và chống gian lận. Vì vậy, chúng có thể hoạt động kém hiệu quả hơn khi gặp những loại hình ảnh nằm ngoài phạm vi dữ liệu huấn luyện.
Với video, kết quả cũng không đồng đều. Một video mô phỏng cảnh tòa nhà sụp đổ bị nhiều người dùng mạng xã hội đánh giá nhầm là hình ảnh thực tế, nhưng phần lớn công cụ trong thử nghiệm đã xác định đúng đó là video giả. Ngược lại, với một video người mẫu do Midjourney tạo ra có độ chân thực cao, nhiều công cụ lại đánh giá nhầm là thật hoặc đưa ra kết quả không chắc chắn.
Số công cụ có khả năng phân tích video và âm thanh cũng hạn chế hơn so với công cụ nhận diện hình ảnh. Đây là vấn đề đáng chú ý bởi nội dung giả có thể được sử dụng trong những tình huống cần xác minh danh tính, từ cuộc gọi trực tuyến đến các giao dịch tài chính.
Đối với âm thanh, thử nghiệm đánh giá bảy công cụ. Sensity và Resemble.ai cho kết quả tốt nhất trong nhóm được kiểm tra. Ngay cả khi âm thanh bị tăng tốc hoặc bổ sung nhạc nền, các công cụ này vẫn có thể nhận diện tương đối chính xác giọng nói do AI tạo ra. Tuy nhiên, khi âm thanh bị chỉnh sửa mạnh, khả năng phát hiện cũng suy giảm.
Một điểm đáng lưu ý khác là các công cụ trong thử nghiệm nhìn chung nhận diện ảnh thật tốt hơn ảnh giả. Một bức ảnh chụp cây cảnh bằng máy ảnh Canon 5D được tất cả công cụ xác nhận là ảnh thật. Video thực tế, chẳng hạn clip quay bằng iPhone hoặc trích từ bản tin, cũng thường được nhận diện chính xác hơn.
Tuy nhiên, khi hình ảnh thật bị chỉnh sửa bằng AI, ranh giới giữa hai loại nội dung trở nên khó xác định. Trong thử nghiệm, một bức ảnh thật được bổ sung khói do AI tạo ra để tạo cảm giác có vụ nổ. Phần lớn công cụ đánh giá đây là ảnh thật và không phát hiện được phần đã chỉnh sửa. Chỉ một số ít công cụ có thể nhận diện dấu hiệu can thiệp; Copyleaks cho biết mô hình mới của họ có khả năng khoanh vùng phần khói nhân tạo.
Những kết quả này cho thấy phát hiện nội dung do AI tạo ra không đơn thuần là bài toán xác định một tệp tin thuộc loại thật hay giả. Trong nhiều trường hợp, cần xác định chính xác phần nào là nguyên bản, phần nào đã bị chỉnh sửa, đồng thời xem xét nội dung trong mối liên hệ với các nguồn dữ liệu khác.
Từ thách thức toàn cầu đến yêu cầu đối với Việt Nam
Các công cụ phát hiện nội dung do AI tạo ra đang được ứng dụng trong nhiều lĩnh vực. Ngân hàng có thể sử dụng công nghệ này để hỗ trợ phát hiện gian lận; cơ sở giáo dục dùng công cụ kiểm tra bài làm; doanh nghiệp quan tâm đến nguy cơ giả mạo giọng nói và hình ảnh trong giao dịch. Với báo chí, công nghệ phát hiện có thể bổ trợ quá trình xác minh tư liệu trước khi đăng tải.
Tuy nhiên, kết quả thử nghiệm của New York Times cho thấy không công cụ nào đủ tin cậy để được sử dụng như căn cứ duy nhất đưa ra kết luận. Việc dựa hoàn toàn vào kết quả tự động có thể dẫn đến hai rủi ro trái ngược: bỏ lọt nội dung giả hoặc gắn nhãn nhầm nội dung thật. Trong bối cảnh tin tức nóng lan truyền nhanh trên mạng xã hội, cả hai trường hợp đều có thể gây hậu quả.
Đối với Việt Nam, vấn đề này gắn với yêu cầu phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số được xác định trong Nghị quyết số 57-NQ/TW của Bộ Chính trị. Nghị quyết nhấn mạnh việc phát triển công nghệ, từng bước làm chủ công nghệ chiến lược, đồng thời coi bảo đảm an ninh mạng, an ninh dữ liệu và an toàn thông tin của tổ chức, cá nhân là yêu cầu xuyên suốt trong quá trình chuyển đổi số.
Từ thực tế quốc tế, một hướng tiếp cận đáng chú ý là không chỉ sử dụng các công cụ phát hiện sẵn có, mà còn nâng cao năng lực kiểm chứng và khả năng làm chủ công nghệ phù hợp với nhu cầu trong nước. Các giải pháp cần được đánh giá trên nhiều loại dữ liệu, gồm văn bản, hình ảnh, video và âm thanh; đồng thời tính đến khả năng nội dung bị nén, cắt ghép, chỉnh sửa hoặc kết hợp giữa dữ liệu thật và dữ liệu do AI tạo ra.
Đặc điểm của tiếng Việt, nguồn tư liệu trong nước và các nền tảng được người Việt sử dụng cũng là những yếu tố cần được tính đến khi đánh giá khả năng ứng dụng của công cụ. Một hệ thống hoạt động tốt với dữ liệu nước ngoài chưa chắc đem lại kết quả tương tự khi xử lý nội dung tiếng Việt hoặc những định dạng phổ biến tại Việt Nam. Đây là cơ sở để các đơn vị nghiên cứu, doanh nghiệp công nghệ và cơ quan sử dụng phối hợp thử nghiệm, đánh giá hiệu quả trước khi triển khai trên diện rộng.
Trong lĩnh vực báo chí, công nghệ có thể hỗ trợ phát hiện dấu hiệu bất thường, nhưng không thể thay thế nghiệp vụ xác minh. Khi tiếp nhận một hình ảnh hoặc video chưa rõ nguồn gốc, phóng viên và biên tập viên vẫn cần kiểm tra nguồn đăng đầu tiên, đối chiếu với tư liệu độc lập, xác minh thời gian và địa điểm, tìm kiếm hình ảnh tương tự và tham khảo chuyên gia khi cần thiết. Kết quả từ công cụ phát hiện chỉ nên là một đầu mối phục vụ quá trình kiểm chứng, không phải phán quyết cuối cùng.
Với người dùng và doanh nghiệp, việc nâng cao kỹ năng số cũng quan trọng không kém đầu tư công nghệ. Những yêu cầu xác minh bổ sung khi nhận cuộc gọi chuyển tiền, kiểm tra nguồn gốc hình ảnh trước khi chia sẻ và đối chiếu thông tin từ nhiều nguồn độc lập có thể giúp hạn chế rủi ro do nội dung giả mạo. Công nghệ phát hiện chỉ phát huy hiệu quả khi được sử dụng cùng quy trình kiểm tra phù hợp và nhận thức đầy đủ về giới hạn của nó.