Những phòng chat chia sẻ hình ảnh khiêu dâm tạo từ công nghệ deepfake trở thành nỗi sợ của nhiều phụ nữ Hàn Quốc. Ảnh: Yonhap
"Cảm giác như nơi đáng lẽ phải là nơi an toàn nhất đối với chúng tôi, cuộc sống thường ngày của chúng tôi, đã bị xâm phạm", một phụ nữ họ Lee 27 tuổi tiết lộ cô đã xóa mọi dấu vết khỏi mạng xã hội.
Tội phạm deepfake khiêu dâm đã trở thành tâm điểm chú ý khi một sinh viên tốt nghiệp Đại học Quốc gia Seoul ngoài 40 tuổi bị cáo buộc âm mưu với ba người đàn ông khác để tạo ra những hình ảnh và video khiêu dâm của các nạn nhân bằng công nghệ deepfake và chia sẻ chúng trên Telegram.
Cho đến nay, cảnh sát đã xác định được 61 nạn nhân, bao gồm 12 cựu sinh viên cùng trường với thủ phạm.
Ngay sau đó, các phương tiện truyền thông đã đưa tin về các trường hợp tương tự khác về tội phạm deepfake khiêu dâm, trong đó phát hiện ra một số phòng trò chuyện được biết là nhắm vào trẻ vị thành niên.
Một kênh Telegram có hơn 220.000 thành viên đã được tích hợp một tính năng chỉnh sửa ảnh thành ảnh khỏa thân ngay lập tức. Các thành viên được khuyến khích chia sẻ ảnh của những người họ biết.
Theo lời lý giải của Bae Sang-hoon, Phó Giáo sư khoa quản lý cảnh sát tại Đại học Woosuk, thủ phạm đứng đằng sau những tội ác này thường bị thúc đẩy bởi các yếu tố như cảm giác tự ti, thích thú và đôi khi chỉ muốn quấy rối hoặc trả thù ai đó trực tuyến khi không thể thực hiện hành vi đó trực tiếp.
"Hình thức xúc phạm người quen hình thành sớm nhất có thể bắt đầu từ thời thơ ấy, khi một hình ảnh một ai đó bị vẽ ria mép treo trong nhà vệ sinh công cộng hoặc xé toạc khỏi một bức ảnh trong album tốt nghiệp", Phó Giáo sư Bae cho biết.
Ngày nay, với sự kết hợp của công nghệ và các nền tảng xã hội, những hành động đó nhanh chóng được lan truyền rộng rãi trong cộng đồng thanh thiếu niên và thế hệ trẻ. Cùng với trí tuệ nhân tạo, trò đùa thâm độc đó đã dẫn đến những tổn thương.
"Công nghệ deepfake khiến việc phân biệt thứ gì đó là thật hay hình ảnh biếm họa trở nên khó khăn. Sự nhầm lẫn này khiến nó trở nên nguy hiểm hơn", ông Bae nói.
Tổng thống Yoon được cảnh sát giới thiệu về một phần mềm nhận diện công nghệ deepfake. Ảnh: Yonhap
Từ ngày 1/1 đến ngày 25/8, số nạn nhân bị rơi vào các vụ việc chia sẻ hình ảnh khiêu dâm bằng deepfake yêu cầu sự giúp đỡ từ cơ quan nhà nước đã lên tới 781 người, trong đó có tới 288 người (tương đương 36,9%), là trẻ vị thành niên.
Bộ Giáo dục Hàn Quốc cho biết họ đã nhận được 196 đơn báo về các tội phạm tình dục deepfake như vậy trong số học sinh và giáo viên chỉ trogn 3 tháng đầu năm.
Trước vấn nạn tội ác deepfake, nữ giới Hàn Quốc vội vã xóa ảnh của mình trên mạng xã hội hoặc tự mình truy tìm những kẻ tình nghi.
Trên nền tảng X, các từ khóa như "khiêu dâm bất hợp pháp" và "vạch trần kẻ gây án deepfake" đã trở thành những chủ đề xu hướng hàng đầu tại Hàn Quốc. Nhiều người chia sẻ danh sách các trường học bị nghi ngờ là mục tiêu trong các phòng chat, chia sẻ thông tin cập nhật về các câu chuyện tin tức liên quan và chia sẻ cách nhận biết mình là nạn nhân.
Một nhiếp ảnh gia giấu tên nói rằng mình sẽ tạm thời dừng tải lên các bài đăng có khuôn mặt của người mẫu do lo ngại về tội phạm deepfake.
Kim Su-jeong, Giám đốc Trung tâm tư vấn nhân quyền phụ nữ, cho biết chính phủ nên giáo dục những kẻ phạm tội rằng hành động của họ là sai trái và không thể dung thứ, thay vì bảo nạn nhân gỡ ảnh hoặc bài đăng của họ xuống.
"Tình trạng bạo lực liên tục đối với phụ nữ ở đất nước này là kết quả của việc những lời kêu cứu từ phụ nữ chưa được lắng nghe, hình phạt lỏng lẻo đối với những kẻ phạm tội và trình độ kém nhận thức cho rằng những hành động như vậy không phải là phạm tội", bà Kim giải thích..
Trong một cuộc họp báo ngày 26/8, Tổng thống Hàn Quốc Yoon Suk Yeol đã kêu gọi các nhà chức trách trấn áp các hành động tội phạm bằng deepfake trong một cuộc họp nội các, coi đó là "hành vi phạm tội rõ ràng".
Ngoài ra, chính phủ cũng đã công bố một loạt các biện pháp, bao gồm tăng cường hình phạt đối với tội phạm deepfake khiêu dâm, thúc đẩy việc bảo đảm đường dây nóng với Telegram quanh năm và trừng phạt những người dù chỉ là sở hữu tài liệu khiêu dâm deepfake.
Cảnh sát tuyên truyền về tội phạm deepfake khiêu dâm tại trường học. Ảnh: Yonhap
Sau báo cáo nhiều nạn nhân là trẻ vị thành niên, Bộ giáo dục Hàn Quốc cũng cam kết sẽ giáo dục tốt hơn, nâng cao nhận thức cho học sinh về quy tắc đạo đức kỹ thuật số và đào tạo phòng ngừa lạm dụng tình dục trực tuyến.
Cơ quan Cảnh sát Quốc gia cũng tuyên bố sẽ tiến hành một đợt truy quét mạnh mẽ kéo dài 7 tháng đối với tội phạm deepfake.
Bà Bae Jeong-weon, Giám đốc Trung tâm Tình dục và Cuộc sống Hòa hợp, chỉ ra việc tiếp xúc với các hình ảnh khiêu dâm từ khi còn nhỏ và quan điểm phổ biến của việc coi phụ nữ không phải là một chủ thể trong xã hội khiến thanh thiếu niên trở nên vô cảm trước những tội ác như vậy.
"Nhiều thanh thiếu niên có xu hướng coi đó như một trò chơi để tỏ vẻ với những người bạn khác", bà Bae lý giải.
Đưa ra hành động giải quyết của Pháp như cấm điện thoại di động ở trường đối với trẻ em dưới 15 tuổi và một động thái tương tự đang được thảo luận ở Anh, bà Bả cho rằng ít nhất Hàn Quốc kiểm tra và loại trừ quyền truy cập vào các trò chơi bạo lực đối với thanh thiếu niên. Bà cũng nhấn mạnh rằng giáo dục hiểu biết về truyền thông và giáo dục nhân văn đều quan trọng như nhau.