Sự việc được đưa ra ánh sáng trong bối cảnh Hiệp hội Giáo viên Sau đại học New Zealand (PPTA) lên tiếng cảnh báo về sự gia tăng đáng lo ngại của các hành vi quấy rối kỹ thuật số nhắm vào lực lượng giáo viên.
Báo cáo từ PPTA cho biết nhóm học sinh tại ngôi trường này đã sử dụng các công cụ tạo ảnh bằng AI có sẵn trên Internet để lồng ghép khuôn mặt của các thầy cô giáo vào các bối cảnh nhạy cảm, khiêu dâm. Những hình ảnh "deepfake" này sau đó được chia sẻ với tốc độ chóng mặt thông qua các nhóm trò chuyện riêng tư của học sinh trên mạng xã hội, gây ảnh hưởng nghiêm trọng đến danh dự và tâm lý của các nạn nhân.
Quyền Chủ tịch PPTA, Chris Abercrombie, bày tỏ cảm giác sốc nặng trước tính chất của vụ việc: "Đây là một hành vi quấy rối cực kỳ tồi tệ. Nó không còn dừng lại ở những trò đùa nghịch ngợm của tuổi học trò, mà đã cấu thành hành vi xâm phạm đời tư và xúc phạm nhân phẩm nghiêm trọng đối với các nhà giáo."
Sự việc ngay lập tức được báo cáo lên các cơ quan chức năng, bao gồm Bộ Giáo dục New Zealand và Netsafe (tổ chức độc lập về an toàn không gian mạng). Phía nhà trường đã nhanh chóng vào cuộc để xác định danh tính nhóm học sinh tham gia và đưa ra các hình thức kỷ luật nghiêm khắc, đồng thời gỡ bỏ toàn bộ các nội dung độc hại trên.
Vụ việc một lần nữa làm dấy lên những lo ngại sâu sắc về mặt đạo đức khi các công cụ AI tạo hình ảnh ngày càng trở nên dễ tiếp cận và khó kiểm soát.
Netsafe cho biết, số lượng các vụ việc liên quan đến việc lạm dụng AI để tạo nội dung khiêu dâm giả mạo đang tăng vọt tại New Zealand. Đối tượng bị nhắm tới không chỉ là những người nổi tiếng mà giờ đây đã lan sang các môi trường học đường, nơi cả học sinh và giáo viên đều có thể trở thành nạn nhân.
Các chuyên gia giáo dục thừa nhận rằng, các nội quy nhà trường hiện tại đang tụt hậu khá xa so với tốc độ phát triển của công nghệ. Việc cấm học sinh sử dụng điện thoại hay máy tính tại trường không thể ngăn chặn triệt để vấn đề, bởi các em hoàn toàn có thể thực hiện việc này tại nhà bằng các thiết bị cá nhân.
Hội đồng Giáo dục New Zealand đang khẩn trương phối hợp với các bên để xây dựng một bộ hướng dẫn khẩn cấp dành cho các trường học nhằm đối phó với làn sóng deepfake độc hại.
Tại New Zealand, việc phát tán hình ảnh nhạy cảm giả mạo không có sự đồng ý của đối phương là hành vi vi phạm pháp luật và có thể bị truy cứu trách nhiệm hình sự.
Bên cạnh các chế tài xử phạt, các chuyên gia nước này cũng nhấn mạnh tầm quan trọng của việc giáo dục nhận thức cho học sinh về luật an toàn mạng và những hệ lụy pháp lý nghiêm trọng của hành vi này.
