Ngoại trưởng Anh James Cleverly. Ảnh: AFP/ TTXVN
Công nghệ deepfake (công nghệ AI giả mạo khuôn mặt, hình ảnh, giọng nói) sử dụng sức mạnh của công nghệ học sâu (deep learning) vào nội dung video, âm thanh, hình ảnh. Khi được sử dụng hợp lý, nó có thể tạo ra các nội dung mới, chưa bao giờ tồn tại nhưng lại thuyết phục đối với mọi người.
Bộ trưởng Cleverly cho rằng sự tiến bộ nhanh chóng của công nghệ có thể trở thành mối đe dọa nghiêm trọng cho các cuộc bầu cử trên toàn cầu.
Ông cảnh báo rằng tổ chức tội phạm hay các nhóm chính trị có thể tạo ra hàng nghìn video deepfake – hình ảnh và video giả mạo có độ chân thực cao – để thao túng tiến trình dân chủ ở các quốc gia như Anh.
Ông Cleverly nói với tờ Times rằng “kỷ nguyên của nội dung deepfake và do AI tạo ra nhằm đánh lừa và gây rối đã bắt đầu diễn ra".
Người ta ước tính có 2 tỷ người trên thế giới sẽ bỏ phiếu trong các cuộc bầu cử quốc gia trong suốt năm 2024, trong đó có Anh, Mỹ, Ấn Độ và 60 quốc gia khác.
Một số âm thanh deepfake bắt chước Keir Starmer, lãnh đạo Công đảng Anh và thị trưởng London, Sadiq Khan, đã được chia sẻ trực tuyến vào năm 2023.
Trong khuôn khổ Hội nghị An ninh Munich mới đây, lãnh đạo các công ty công nghệ hàng đầu thế giới như Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI và TikTok đã ký kết một thoả thuận nhằm ngăn chặn những nội dung giả mạo về chính trị do AI tạo ra.