Trước đây, một chiến dịch tung tin giả quy mô lớn thường cần cả đội ngũ xây dựng website tin tức giả, tài khoản mạng xã hội và tài liệu giả mạo để phát tán thông tin sai lệch. Giờ đây, AI có thể giúp thực hiện phần lớn công việc này nhanh chóng và với chi phí thấp hơn.
Theo The Guardian, Anthropic gần đây công bố một chiến dịch gây ảnh hưởng chính trị tại Malaysia, trong đó công cụ Claude AI được sử dụng để xây dựng một nền tảng thao túng bầu cử. Chiến dịch vận hành khoảng 1.000 tài khoản trên X, một trang tin giả mang tên “Malaysia Pulse” cùng nhiều tài liệu giả mạo.
Hoạt động này dường như nhằm tác động đến cử tri trong các cuộc bầu cử cấp bang gần đây của Malaysia, sử dụng dữ liệu dân số và bầu cử để khai thác những vấn đề nhạy cảm như chủng tộc, tôn giáo và hoàng gia tại toàn bộ 222 khu vực bầu cử quốc hội.
Chiến dịch không đạt hiệu quả sau khi Anthropic can thiệp, song vụ việc làm dấy lên lo ngại về nguy cơ AI bị lợi dụng trong các cuộc bầu cử tương lai tại Đông Nam Á, nơi vốn dễ bị tổn thương trước tin giả.
Katie Harbath, cựu chuyên gia chính sách công về bầu cử toàn cầu tại Meta, cho rằng AI đang đưa hoạt động thao túng thông tin lên một cấp độ mới.
“AI có thể khuếch đại hoạt động này bởi bạn có thể tạo ra nhiều nội dung hơn, được cá nhân hóa hơn, nhanh hơn và rẻ hơn”, bà Harbath, hiện đứng đầu công ty tư vấn Anchor Change, nói. Tuy nhiên, bà cho rằng các chiến dịch vẫn cần nền tảng mạng xã hội để phân phối nội dung.
“Nhấn chìm” không gian thông tin
Đông Nam Á vốn là khu vực thường xuyên xuất hiện các chiến dịch tung tin giả và thao túng dư luận trên mạng xã hội. Nhà báo Philippines Maria Ressa từng ví Philippines như nơi để thử nghiệm và phát triển các phương thức sử dụng tin giả nhằm tác động đến nhận thức của công chúng. Theo bà, nhiều kỹ thuật được thử nghiệm tại Philippines sau đó đã được áp dụng ở các nước phương Tây.
AI đang khiến những chiến dịch như vậy trở nên dễ thực hiện hơn. Rossine Fallorina, thuộc tổ chức nghiên cứu AI Sigla của Philippines, cho rằng công nghệ này có thể thay thế một phần hoạt động của các “nhà máy troll” - những nhóm người chuyên tạo tài khoản giả, sản xuất nội dung gây tranh cãi hoặc sai lệch và phát tán chúng trên mạng xã hội. Với AI, quá trình tạo ra hàng loạt nội dung và thông điệp phục vụ một chiến dịch có thể được thực hiện nhanh hơn, với ít nhân lực và chi phí thấp hơn.
Thay vì cần hàng chục người xây dựng một câu chuyện hoặc thông điệp, người vận hành chỉ cần đưa yêu cầu cho AI rồi để hệ thống tạo nội dung và hỗ trợ phát tán.
Năm ngoái, OpenAI đã cấm một số tài khoản sử dụng AI để tạo bình luận về chính trị và các quan chức Philippines trên mạng xã hội. Nhiều bình luận giả thể hiện sự ủng hộ Tổng thống Ferdinand Marcos Jr.
Báo cáo mới của Anthropic cho thấy các hoạt động gây ảnh hưởng bằng AI không chỉ do những cá nhân đơn lẻ thực hiện mà còn có thể liên quan đến chính phủ, tổ chức tuyên truyền thân nhà nước, truyền thông nhà nước và các công ty tư nhân cung cấp dịch vụ gây ảnh hưởng.
Đông Nam Á đặc biệt đáng lo ngại do nhiều quốc gia có dân số trẻ và mức độ kết nối Internet cao. Bridget Welsh, thuộc Viện Nghiên cứu châu Á Malaysia của Đại học Nottingham, cảnh báo AI có thể làm sâu sắc thêm sự phân cực chính trị và những chia rẽ xã hội.
Malaysia có thể tổ chức tổng tuyển cử vào cuối năm 2027, trong khi Philippines và Campuchia dự kiến bầu cử vào năm 2028, còn Indonesia sẽ tiến hành bầu cử vào năm 2029.
AI đã cho thấy khả năng tác động đến chính trị khu vực. Tại Indonesia, hình ảnh hoạt hình do AI tạo ra về Tổng thống Prabowo Subianto trở nên phổ biến trong cuộc bầu cử năm 2024, góp phần xây dựng hình ảnh trẻ trung, thân thiện hơn cho ông.
Công nghệ này cũng có thể làm gia tăng căng thẳng xã hội. Ben Loh, giảng viên Đại học Monash Malaysia, cho biết AI từng được sử dụng để kích động sự thù ghét đối với người Rohingya từ Myanmar sang Malaysia.
Ông cho rằng khi những định kiến đã tồn tại từ trước, nội dung do AI tạo ra dù được nhận diện là giả vẫn có thể củng cố niềm tin sẵn có của người dùng.
Thách thức mới trước các cuộc bầu cử
Anthropic cho biết trang tin giả Malaysia Pulse đã thu thập các bài viết từ báo chí Malaysia, dùng AI viết lại nhiều lần rồi đăng dưới tên tác giả giả mạo. Trang này cũng đăng lại nội dung từ một số truyền thông nước ngoài nhưng loại bỏ thông tin về nguồn ban đầu.
Anthropic cho biết đã ngăn chặn các hoạt động gây ảnh hưởng được phát hiện, đồng thời củng cố hệ thống bảo vệ và chia sẻ thông tin với cơ quan chức năng, đối tác trong ngành khi cần thiết.
Chuyên gia cảnh báo AI trong tương lai có thể được sử dụng để “nhấn chìm không gian thông tin” bằng cách tạo ra lượng nội dung khổng lồ, qua đó gây nhiễu môi trường thông tin mà các mô hình ngôn ngữ lớn sử dụng.
Khi AI khiến nội dung giả có thể được sản xuất hàng loạt, nhanh chóng và với chi phí thấp, việc phân biệt giữa thông tin tự phát và một chiến dịch thao túng có tổ chức sẽ trở thành thách thức ngày càng lớn đối với các nền dân chủ Đông Nam Á.
