Nghiên cứu về hàng chục thuật toán nhận diện khuôn mặt cho thấy tỷ lệ nhận diện sai những người châu Á và người Mỹ gốc Phi cao hơn 100 lần so với người da trắng. Các hệ thống do Mỹ phát triển để nhận diện khuôn mặt có tỷ lệ lỗi cao hơn khi nhận diện những nhóm người bản địa châu Mỹ, người Mỹ gốc Phi và người châu Á, trong khi tỷ lệ nhận diện nhầm cao nhất đối với người da đỏ.
Tuy nhiên, một số thuật toán được phát triển tại châu Á cho ra kết quả chính xác như nhau khi nhận diện những khuôn mặt người châu Á và người gốc châu Âu. Do đó, các nhà nghiên cứu gợi ý những sai lệch này có thể được hiệu chỉnh. Ngoài ra, các nhà nghiên cứu cũng phát hiện 2 thuật toán xác định sai giới tính của phụ nữ da màu gần 35% thời gian.
Nghiên cứu trên được công bố trong bối cảnh hệ thống nhận diện khuôn mặt được triển khai rộng rãi tại nhiều sân bay, khu vực biên giới, ngân hàng, trường học và cả trong công nghệ riêng tư như mở khóa điện thoại thông minh.
Một số nhà hoạt động và nghiên cứu cho rằng hệ thống tiên tiến này có nguy cơ nhận diện nhầm dẫn đến bắt giam người vô tội, và cơ sở dữ liệu của hệ thống có thể bị truy cập trái phép hoặc bị sử dụng vào mục đích phi pháp.
