Phát biểu với báo giới, chuyên gia máy tính tại Đại học Công giáo PUC ở Rio de Janeiro, bà Ana Carolina da Hora cảnh báo: “Video dựng có thể được sử dụng để thao túng dư luận, bôi nhọ cá nhân hoặc can thiệp vào tiến trình dân chủ”.
Các cơ quan chức năng Brazil đặc biệt cảnh giác trước những trường hợp từng xảy ra như một thị trưởng bị sao chép giọng nói để tạo ra một tệp âm thanh được chia sẻ trên mạng xã hội, trong đó có lời lăng mạ các giáo viên trong thành phố của mình. Những trường hợp tương tự đang được điều tra ở hai bang khác.
Tòa án Bầu cử cấp cao (TSE) đã quyết định hành động. Từ tuần trước, việc sử dụng công nghệ deepfake đã chính thức bị cấm trong chiến dịch bầu cử thành phố vào tháng 10 tới. Bất kỳ hình thức sử dụng AI nào khác vào mục đích bầu cử đều phải kèm theo thông báo có thể nhận dạng rõ ràng cho công chúng.
Theo quyết định trên, các ứng cử viên bị phát hiện sử dụng công nghệ deepfake trong chiến dịch tranh cử có thể bị cấm tranh cử hoặc bị hủy kết quả nếu đắc cử.
Chánh án TSE, ông Alexandre de Moraes cho biết đây là một trong số “tiêu chuẩn hiện đại nhất trên thế giới liên quan đến việc chống lại thông tin sai lệch, tin giả và sử dụng trái phép AI”. Ông cảnh báo công nghệ deepfake có thể “thay đổi kết quả cuộc bầu cử”.
Quốc hội Brazil hiện đã bắt đầu tranh luận về dự luật quy định sử dụng AI trong mọi khía cạnh của đời sống. Giám đốc tổ chức bảo vệ dữ liệu và quyền kỹ thuật số Data Privacy Brazil, ông Bruno Bioni khẳng định: “Không có giải pháp đơn lẻ nào có thể điều chỉnh được AI”.