Hãng thông tấn AP (Mỹ) cho biết các công cụ AI tạo sinh (generative AI) tinh vi giờ đây có thể tạo ra giọng nói nhân bản của con người cũng như hình ảnh, video và âm thanh siêu thực chỉ trong vài giây với chi phí tối thiểu. Kết hợp với các thuật toán truyền thông xã hội mạnh mẽ, nội dung giả mạo và được tạo bằng kỹ thuật số này có thể lan truyền nhanh và xa nhắm vào các đối tượng cụ thể. Điều này được cho có khả năng đưa các thủ đoạn bẩn của vận động tranh cử lên một nấc mới, nhằm mục đích gây nhầm lẫn cho cử tri, vu khống ứng cử viên hoặc thậm chí kích động bạo lực.
AI tạo sinh không chỉ có thể nhanh chóng tạo ra các email, văn bản hoặc video dành cho chiến dịch vận động tranh cử mà còn có thể được sử dụng để đánh lừa cử tri, mạo danh ứng cử viên và phá hoại các cuộc bầu cử ở quy mô và tại một tốc độ chưa từng có tiền lệ.
Ông A.J. Nash tại công ty an ninh mạng ZeroFox (Mỹ) cảnh báo: “Chúng ta chưa được chuẩn bị cho điều này. Đối với tôi, bước nhảy vọt lớn về âm thanh và video đã xuất hiện. Khi bạn có thể làm điều đó trên quy mô lớn và chia sẻ nó trên các nền tảng xã hội, thì nó sẽ có tác động lớn”.
Một số kịch bản trong đó AI bị lợi dụng cho mục đích xấu trong bầu cử bao gồm sử dụng giọng nói của ứng cử viên để hướng dẫn cử tri bỏ phiếu sai ngày, tạo bản ghi âm giả ứng cử viên thú nhận tội ác hoặc bày tỏ quan điểm phân biệt chủng tộc, “chế” video có cảnh một nhân vật nào đó phát biểu hoặc trả lời phỏng vấn. Bên cạnh đó còn có hình ảnh giả mạo được thiết kế để trông giống như ảnh báo chí, tuyên bố sai sự thật rằng một ứng cử viên đã bỏ cuộc tranh cử…
“Điều gì sẽ xảy ra nếu tỷ phú Elon Musk đích thân gọi điện cho bạn và bảo bạn bỏ phiếu cho một ứng cử viên nào đó? Đó không phải là Elon Musk nhưng rất nhiều người sẽ lắng nghe”, CEO của Viện nghiên cứu AI Allen – ông Oren Etzioni phân tích.
Một số thông tin sai lệch về chính trị do AI tạo ra đã trở thành hiện tượng trên mạng xã hội, trước thềm cuộc bầu cử Tổng thống Mỹ năm 2024. Một ví dụ là video bị chỉnh sửa với cảnh Tổng thống Biden phát biểu chỉ trích người chuyển giới, ảnh giả cựu Tổng thống Trump bị cảnh sát thành phố New York bắt giữ.
Nghị sĩ Hạ viện Yvette Clarke đã đề xuất các ứng viên đánh dấu những quảng cáo vận động tranh cử được tạo ra với AI. Clarke cho biết nỗi sợ hãi lớn nhất của bà là AI tạo sinh có thể được sử dụng trước thềm cuộc bầu cử năm 2024 để tạo video hoặc âm thanh kích động bạo lực khiến người Mỹ chống lại nhau.
Kênh DW (Đức) đã tham khảo các chuyên gia và đưa ra những phương pháp để phân biệt ảnh giả là sản phẩm của AI. Nhiều hình ảnh do AI tạo ra thoạt nhìn trông như thật. Việc phóng to hình ảnh sẽ tiết lộ những điểm không nhất quán và lỗi khó có thể phát hiện nếu nhìn thoáng qua. Nếu không chắc hình ảnh là thật hay do AI tạo ra, hãy thử tìm nguồn của nó qua các công cụ như Google Image Reverse Search, TinEye hoặc Yandex.
Da của mọi người trong hình ảnh AI thường mịn màng, thậm chí tóc và răng của họ cũng hoàn hảo. Đây thường không phải là hình ảnh trong cuộc sống thực. Nhiều bức ảnh còn mang tính nghệ thuật, bóng bẩy, long lanh mà ngay cả những nhiếp ảnh gia chuyên nghiệp cũng khó đạt được điều đó khi chụp trong studio. Trong một số trường hợp, các chương trình AI sao chép người và đồ vật rồi sử dụng chúng hai lần. Và nền trong các bức ảnh AI bị nhòe cũng không phải là hiếm.
