Công cụ có tên là Silverer (Tạm dịch: “Người tráng bạc”) là sản phẩm của Phòng thí nghiệm AI vì Thực thi Pháp luật và An toàn Cộng đồng (AiLECS) - đơn vị nghiên cứu hợp tác chiến lược giữa AFP và Đại học Monash nhằm áp dụng AI để giải quyết các thách thức an ninh và pháp luật phức tạp. Hiện tại, công cụ này đang trong giai đoạn thử nghiệm và được phát triển dưới sự chủ trì của nghiên cứu sinh Elizabeth Perry tại Đại học Monash.
Theo Đại học Monash, dự án trên sử dụng kỹ thuật "đầu độc dữ liệu" (Data Poisoning) như một kỹ thuật cốt lõi trong công cụ mới này. Đây là kỹ thuật liên quan đến việc thay đổi một cách tinh vi dữ liệu nguồn trực tuyến, khiến cho các mô hình AI và Học máy (MLs) gặp khó khăn đáng kể trong việc tạo ra, thao túng và sử dụng sai mục đích các hình ảnh hoặc video. Do các công cụ AI cần lượng lớn dữ liệu nguồn, việc đầu độc dữ liệu sẽ khiến mô hình tạo ra kết quả không chính xác, bị lệch hoặc bị hỏng, từ đó giúp dễ dàng phát hiện hình ảnh hoặc video giả mạo do tội phạm tạo ra.
Nghiên cứu sinh Perry giải thích rằng người dùng có thể sử dụng Silverer để chỉnh sửa hình ảnh trước khi tải lên mạng xã hội hoặc Internet. Điều này sẽ thay đổi các điểm ảnh (pixels) để đánh lừa mô hình AI, khiến sản phẩm đầu ra của chúng bị biến dạng, phủ đầy các “biến dạng” hoặc hoàn toàn không thể nhận dạng được.
Phó Giáo sư Campbell Wilson - đồng Giám đốc AiLECS và chuyên gia pháp y kỹ thuật số - nhận định việc tạo ra các hình ảnh giả mạo và độc hại bằng công nghệ nguồn mở đang trở thành vấn đề nghiêm trọng hơn do khả năng sử dụng dễ dàng.
Hãng tin AFP đã ghi nhận sự gia tăng các tài liệu lạm dụng trẻ em được tạo ra bằng AI, khi tội phạm lợi dụng công nghệ để sản xuất và chia sẻ số lượng lớn nội dung khiêu dâm giả mạo trên mạng.
Đại học Monash cho biết, mục tiêu tổng thể của dự án Silverer là phát triển một công nghệ dễ sử dụng cho người dân Australia muốn bảo vệ dữ liệu cá nhân của mình trên mạng xã hội. Phiên bản thử nghiệm của công cụ hiện đang được xem xét để sử dụng nội bộ trong AFP.7
