Các công nghệ tiên tiến trang bị AI được sử dụng ngày càng nhiều trong các chiến dịch tranh cử nhưng nhiều chuyên gia công nghệ lo ngại đây là "con dao hai lưỡi". Các chương trình AI có thể ngay lập tức bắt chước giọng một chính khách, tạo ra những video và văn bản chân thực tới nỗi các cử tri khó có thể nhận ra đâu là sản phẩm thật, đâu là sản phẩm của máy tính, từ đó làm suy yếu lòng tin trong quá trình bầu cử. Trong khi đó, các chiến dịch vận động đều đang vận dụng công nghệ này để tăng hiệu quả hoạt động, từ phân tích dữ liệu cử tri tới soạn thư điện tử kêu gọi gây quỹ.
Trong báo cáo mới công bố, tổ chức phi lợi nhuận Freedom House cho rằng AI tạo sinh có thể bị lạm dụng cho các chiến dịch đưa tin sai lệch, cảnh báo công nghệ này đã được sử dụng để dàn dựng các nội dung bôi xấu đối thủ trong chiến dịch bầu cử ở Mỹ. Những hình ảnh, văn bản, âm thanh do AI tạo ra được sử dụng cho các chiến dịch đưa tin sai lệch, dẫn tới tình trạng bóp méo sự thật, khó có thể phân biệt thật giả.
Theo kết quả thăm dò do tập đoàn truyền thông Axios và hãng tư vấn Morning Consult công bố hồi tháng 9, hơn 50% người Mỹ được hỏi tin rằng những thông tin sai lệch do AI tạo ra sẽ ảnh hưởng tới kết quả cuộc bầu cử năm 2024. Hơn 30% cho biết vì những tác động của AI nên họ nghi ngờ các kết quả bầu cử hơn. Giới quan sát lo ngại trong một môi trường chính trị phân cực rất rõ rệt, những điều này có thể làm gia tăng tâm lý bất bình về quy trình bầu cử, cuối cùng dẫn tới vụ bạo loạn giống như hồi tháng 1/2021 khi người biểu tình xông vào tòa nhà Quốc hội Mỹ để phản đối kết quả cuộc bầu cử năm 2020.
Mặc dù vậy, theo Giám đốc điều hành của Junction AI, Vance Reavie, những tiến bộ nhanh chóng trong lĩnh vực AI có thể đóng vai trò là nguồn lực "thay đổi cuộc chơi" với những cử tri hiểu biết và các xu hướng vận động tranh cử. Trước đây, các thành viên của những chiến dịch vận động thường phải nhờ đến các dịch vụ tư vấn đắt đỏ để lên kế hoạch cho chiến dịch, dành hàng giờ để soạn các bài phát biểu, các luận điểm và các bài đăng trên mạng xã hội nhưng hiện nay AI có thể đảm nhận những công việc này chỉ trong thời gian ngắn. Tuy nhiên, đây cũng chính là lúc AI có nguy cơ bị thao túng, sản xuất thông tin dựa vào các nguồn dữ liệu đầu vào không đáng tin cậy.
Nhà chức trách Mỹ cũng đang nỗ lực thiết lập các quy định giám sát sử dụng AI, một số bang như Minnesota đã thông qua quy định hình sự hóa việc sử dụng công nghệ deepfake (tạo ra các hình ảnh, video giả mạo dựa trên khuôn mẫu có thật) nhằm gây tổn hại cho các ứng cử viên hay tác động tới các cuộc bầu cử. Đầu tuần này, Tổng thống Joe Biden cũng đã ký một sắc lệnh hành pháp thúc đẩy sử dụng AI an toàn, bảo mật và đáng tin cậy.
