Trong một văn phòng ở Hàn Quốc, các nhân viên đang rà soát mạng xã hội để phát hiện nội dung do trí tuệ nhân tạo (AI) tạo ra với độ tinh vi ngày càng tăng, thách thức các luật bầu cử nghiêm ngặt trước thềm cuộc bầu cử địa phương.

Theo hãng tin AFP, các chuyên gia cảnh báo những mô hình trí tuệ nhân tạo tiên tiến hơn và rẻ hơn đang khiến thông tin sai lệch lan truyền trên môi trường trực tuyến toàn cầu - một mối lo ngại lớn ở Hàn Quốc, quốc gia đã áp dụng AI đặc biệt nhanh chóng.

Chính phủ đã tăng cường luật vào năm 2023 để chống lạm dụng AI liên quan đến các cuộc bầu cử, đồng thời thuê hàng trăm nhân viên để theo dõi và ngăn chặn nội dung bị thao túng trước cuộc bỏ phiếu địa phương vào ngày 3/6 tới. Nhưng một số người cho biết họ cảm thấy như đang chiến đấu trong một trận chiến đầy khó khăn.

“Chúng tôi thực sự có thể thấy công nghệ này phát triển nhanh như thế nào, chẳng hạn như mỗi phiên bản AI mới đều khiến video và âm thanh nghe thuyết phục hơn”, nhà giám sát thông tin sai lệch Choi Ji-hee cho biết.

“Công việc của chúng tôi ngày càng khó khăn hơn”, nữ nhân viên đang làm việc tại trụ sở Ủy ban Bầu cử Quốc gia (NEC) ở Gwacheon, phía Nam Seoul, nói thêm.

Trong một ngày làm việc gần đây, cô Choi và 18 đồng nghiệp đã lướt qua Instagram, YouTube và các nền tảng khác, cũng như các phòng chat trực tuyến và “câu lạc bộ người hâm mộ” của các chính trị gia địa phương, để tìm kiếm nội dung do AI tạo ra.

Những phát hiện gần đây bao gồm một bản tin truyền hình giả mạo tuyên bố một ứng cử viên thị trưởng đã lọt vào danh sách các nhà lãnh đạo chính trị đang lên của tạp chí Time, cùng một bài hát K-pop được AI sản xuất khéo léo nhằm ca ngợi một chính trị gia và chế giễu các đối thủ của ông.

Khi các nhà chức trách xác nhận nội dung là sản phẩm của AI, họ có thể yêu cầu gỡ bỏ và đưa ra các hình phạt nghiêm khắc, bao gồm cả án tù trong những trường hợp nghiêm trọng.

Ở một góc làm việc, các nhân viên thảo luận cách phân tích một video đáng ngờ, cân nhắc xem có nên tách riêng âm thanh, khung hình chính, hình ảnh khuôn mặt và cảnh quay nền hay không.

Gần đó, nhà phân tích dữ liệu Kim Ma-ru đã lập bản đồ về địa điểm, thời gian và những người phát tán các tài liệu giả mạo, giúp nhóm của Choi phát hiện nội dung đáng ngờ nhanh hơn.

Trò chơi “đập chuột”

Cuộc bầu cử địa phương là cuộc bỏ phiếu lớn thứ ba ở Hàn Quốc kể từ khi luật sửa đổi nhằm chống thông tin sai lệch về bầu cử do AI tạo ra được thông qua vào năm 2023.

Theo số liệu của chính phủ, hơn 45% người Hàn Quốc sử dụng AI tạo sinh. Công ty OpenAI cho biết quốc gia này có số lượng người đăng ký trả phí nhiều nhất ngoài Mỹ.

Đồng thời, người Hàn Quốc tiêu thụ nhiều nhất nội dung chất lượng thấp do AI tạo ra - còn gọi là “AI slop”. Các thông tin về nội dung giả mạo do AI tạo ra đã tăng gấp 27 lần từ cuộc tổng tuyển cử năm 2024 đến chiến dịch tranh cử tổng thống năm sau đó.

“Đó là một công việc mệt mỏi, có cảm giác như trò chơi đập chuột. Nhưng đó là công việc quan trọng. Nó mang ý nghĩa trách nhiệm công dân”, một nhà phân tích dữ liệu nói với AFP.

Ngoài nội dung giả mạo về các ứng cử viên, các thuyết âm mưu về gian lận bầu cử trong những năm gần đây cũng làm suy giảm lòng tin của công chúng vào các cuộc bầu cử.

Luật pháp nghiêm ngặt

“Chỉ trong một thời gian ngắn, cử tri đã rất khó phân biệt đâu là thật và đâu là giả”, ông Jung Hui-hun, chuyên gia pháp y kỹ thuật số tại đơn vị điều tra tội phạm mạng của NEC, cho biết khi ông chạy các video qua những công cụ phần mềm do nhà nước phát triển để phát hiện hình ảnh do trí tuệ nhân tạo tạo ra.

Các quan chức cho biết những chương trình này có độ chính xác khoảng 92%, trong đó các chuyên gia sẽ xem xét lại những nội dung phức tạp nhất.

Sau khi được xác nhận, các nhà chức trách yêu cầu người đăng bài hoặc nền tảng phải gỡ bỏ nội dung vì vi phạm luật năm 2023, vốn cấm các nội dung do AI tạo ra liên quan đến các ứng cử viên và có mức độ chân thực đủ để gây nhầm lẫn cho cử tri trong ba tháng trước cuộc bầu cử.

Những người tái phạm hoặc tạo ra nội dung bị coi là đặc biệt có hại có thể phải đối mặt với án tù lên đến bảy năm hoặc mức phạt tối đa 50 triệu won.

Tiến sĩ Kim Myuhng-joo, Giám đốc Viện An toàn AI Hàn Quốc, cho biết người dân Hàn Quốc nhanh chóng đón nhận trí tuệ nhân tạo, đồng thời cũng nhận thức được những nguy hiểm. Ông dẫn chứng các thuyết âm mưu bầu cử và vụ bê bối công khai liên quan đến nội dung khiêu dâm giả mạo nhắm vào phụ nữ và trẻ em gái.

“Dư luận đã nhất trí rằng chúng ta cần những quy định nghiêm ngặt về việc sử dụng AI liên quan đến tính minh bạch của bầu cử”, Tiến sĩ Kim cho biết.

Một cuộc khảo sát năm ngoái cho thấy 75% người Hàn Quốc tin rằng nội dung do AI tạo ra có thể tác động đến kết quả bầu cử và gần 80% ủng hộ những nỗ lực mạnh mẽ hơn nhằm phát hiện và trừng phạt việc sử dụng AI sai mục đích.

Ông Jung, chuyên gia pháp y kỹ thuật số, thừa nhận phản ứng của Hàn Quốc có nhiều hạn chế, nhưng bày tỏ hy vọng rằng điều đó sẽ thúc đẩy cuộc tranh luận về cách giải quyết vấn nạn thông tin sai lệch do AI gây ra.

“Chúng tôi vẫn đang cố gắng tìm ra giải pháp tốt nhất… nhưng tôi nghĩ chúng ta đang tiến lên, chậm nhưng chắc chắn”, ông nói.