Theo trang Oddity Central (Anh), thoạt nhìn, Digital Camouflage chẳng khác nào một chiếc áo Hawaii với những họa tiết rối mắt, thậm chí bị xem là xấu xí. Tuy nhiên, đằng sau thiết kế có phần kỳ quặc này là một mục đích đáng chú ý: khai thác những hạn chế trong cách AI nhận diện con người qua hình ảnh.
“Các hệ thống AI được xây dựng từ nhiều lớp xử lý, nhưng chúng không thực sự hiểu con người là gì. Chúng học cách nhận diện hình dáng con người thông qua quá trình huấn luyện bằng hàng triệu hình ảnh”, ông Weckert giải thích.
Theo nhà thiết kế này, ở những lớp xử lý ban đầu, AI nhận diện các đặc điểm cơ bản của hình ảnh như đường viền, độ tương phản và thay đổi về kết cấu. Ở các lớp sâu hơn, hệ thống tiếp tục tìm kiếm những đặc điểm thường gắn với cơ thể người, chẳng hạn hình dáng đầu và vai, tỷ lệ giữa các chi và thân mình, hay đường nét cơ thể so với phông nền xung quanh.
“Đối với AI, con người là một tập hợp các đặc trưng thị giác mang tính thống kê. Và đó cũng chính là điểm yếu có thể bị khai thác”, ông nói.
Digital Camouflage có thể làm xáo trộn những đặc điểm thị giác mà hệ thống AI thường dựa vào khi nhận diện con người, qua đó khiến việc phát hiện người mặc trở nên khó khăn hơn. Đáng chú ý, những họa tiết trên áo cũng được phát triển với sự hỗ trợ của AI thông qua một quy trình gọi là “vòng lặp đối kháng”.
“Các họa tiết được phát triển thông qua một vòng lặp đối kháng với chính hệ thống nhận diện AI: tạo ra một mẫu, đưa mẫu đó vào hệ thống phát hiện, đo lường mức độ tự tin của AI khi nhận diện người mặc, sau đó điều chỉnh và lặp lại quá trình cho đến khi mức độ tự tin này giảm xuống”, ông Weckert chia sẻ với tạp chí Dezeen.
Ông cho biết phương pháp này rất cần thiết bởi những điểm mù của máy móc không dễ nhận ra bằng mắt thường. Con người khó có thể tự thiết kế những họa tiết đủ sức đánh lừa AI nếu không biết hệ thống đang dựa vào đặc điểm nào để nhận diện. Chính AI, thông qua quá trình thử nghiệm và điều chỉnh, sẽ giúp xác định những đặc điểm có thể bị khai thác.
Theo cách lý giải của ông Weckert, có một nghịch lý thú vị trong quá trình này: hệ thống AI được dùng để giám sát con người lại góp phần giúp tạo ra một thiết kế có khả năng né tránh chính công nghệ đó.
Với màu sắc và họa tiết nổi bật, Digital Camouflage khiến người mặc dễ thu hút chú ý giữa đám đông. Tuy nhiên, trong các thử nghiệm của ông Weckert, những họa tiết này lại khiến hệ thống AI gặp khó khăn khi nhận diện người mặc là con người. Sự tương phản giữa vẻ ngoài nổi bật trước mắt người quan sát và khả năng gây nhầm lẫn cho máy móc đã tạo nên điểm độc đáo của chiếc áo.
