Theo hãng tin Yonhap, từ ngày 29/1 cho đến cuối tuần trước, Ủy ban Bầu cử Quốc gia (NEC) đã phát hiện 129 nội dung truyền thông do AI tạo ra với mục đích vận động bầu cử. Điều này đã vi phạm luật bầu cử mới sửa đổi, và người vi phạm có thể bị phạt tới 7 năm tù hoặc 10 triệu won (7.500 USD). NEC đang nỗ lực chủ động ngăn chặn các thông tin giả do deepfake tạo ra nhằm hạn chế lan truyền những thông tin giả và bảo vệ tính toàn vẹn của quá trình bầu cử trước các mối đe dọa mới nổi, trong bối cảnh tình trạng lừa đảo ngày càng nhiều và liên tục biến tướng
Đây không phải là lần đầu tiên Hàn Quốc phải xử lý vấn nạn deepfake. Trong cuộc bầu cử cấp tỉnh năm 2022, Tổng thống Hàn Quốc đương nhiệm Yoon Suk Yeol cũng là nạn nhân trong một video lan truyền trên mạng xã hội do AI tạo ra.
Khi công nghệ AI tiếp tục phát triển, các chuyên gia cảnh báo về mức độ phức tạp và tốc độ sản xuất deepfake ngày càng tăng cao, vượt xa các quy trình xác minh truyền thống. Do đó, các cơ quan chức năng gặp khó khăn trong việc ngăn chặn những tác động độc hại từ công nghệ này.
Giáo sư Kim Myung-joo tại Đại học Phụ nữ Seoul cho biết, tốc độ sản xuất deepfake nhanh hơn nhiều mức độ cập nhật trong quy trình xác minh của NEC. Hơn nữa, sự phát triển liên tục của công nghệ deepfake đặt thêm những rào cản cho việc phát hiện và giảm thiểu các thông tin sai lệch, đòi hỏi một cách tiếp cận nhiều mặt, ưu tiên các cách thức xác minh nghiêm ngặt.
