Đáng chú ý, gần 87% nạn nhân cho biết sự việc gây ảnh hưởng tiêu cực đến sức khỏe, các mối quan hệ, công việc hoặc tình hình tài chính. Đây là kết quả nghiên cứu mới do Đại học RMIT của Australia công bố ngày 4/11.
Phóng viên TTXVN tại Sydney dẫn kết quả khảo sát 7.230 người trưởng thành tại 3 quốc gia trên cho biết, khoảng 7% số người được hỏi từng trải qua ít nhất một hình thức lạm dụng hình ảnh do AI tạo ra kể từ khi đủ 18 tuổi. Tại Australia, tỷ lệ này lên tới 7,7%.
Các hành vi được khảo sát bao gồm sử dụng AI để tạo hoặc chỉnh sửa hình ảnh nhạy cảm của người khác mà không được phép, phát tán những hình ảnh giả mạo này hoặc đe dọa công khai chúng nhằm gây sức ép, tống tiền nạn nhân.
Đáng chú ý, tỷ lệ nam giới trở thành nạn nhân cao hơn 2 lần so với nữ giới, lần lượt là 10,2% và 3,8%. Tuy nhiên, phụ nữ lại ghi nhận những tác động tiêu cực nặng nề hơn về tâm lý, sức khỏe và cảm giác an toàn cá nhân.
Giáo sư Nicola Henry, trưởng nhóm nghiên cứu thuộc Đại học RMIT, cảnh báo quy mô thực tế của vấn nạn này có thể còn lớn hơn số liệu thống kê, bởi nhiều người không biết hình ảnh của mình đã bị thu thập, chỉnh sửa hoặc sử dụng để tạo ra nội dung giả mạo bằng AI. Bà nhấn mạnh cần tăng cường giáo dục về các mối quan hệ lành mạnh, nâng cao hiểu biết số, đồng thời thúc đẩy trách nhiệm của các doanh nghiệp công nghệ trong ngăn chặn hành vi lạm dụng.
Trước thực trạng này, Chính phủ Australia đang thúc đẩy dự luật sửa đổi về an toàn trực tuyến, trong đó thiết lập cơ chế "Trách nhiệm cẩn trọng kỹ thuật số" (Digital Duty of Care), yêu cầu các dịch vụ trực tuyến thực hiện những biện pháp hợp lý để bảo vệ người dùng trước các nguy cơ gây hại nghiêm trọng. Dự luật cũng tăng thẩm quyền cho Ủy viên An toàn điện tử Australia trong việc yêu cầu gỡ bỏ các ứng dụng và trang web phục vụ tạo hình ảnh khỏa thân giả mạo.
Nếu được thông qua, các doanh nghiệp công nghệ vi phạm có thể đối mặt mức phạt lên tới 109,2 triệu AUD (khoảng 71,5 triệu USD).
Các chuyên gia nhận định, bên cạnh hoàn thiện hành lang pháp lý, việc nâng cao trách nhiệm của các nền tảng và phát triển công cụ ngăn chặn nội dung giả mạo là yêu cầu cấp thiết nhằm hạn chế những tổn hại ngày càng lớn từ việc lạm dụng AI.
