Theo tờ Business Insider, con mắt dõi theo của phần mềm này có thể ghi lại cảm xúc trên gương mặt con người và thậm chí còn biết phân biệt cười thật và gượng cười. Tình cảnh nhân viên mệt mà vẫn phải giữ nét mặt trung tính, hay buồn ngủ mà không thể ngáp, nhíu mày… có thể đang xảy ra trong thực tế chứ không chỉ là phim viễn tưởng.

Hệ thống nhận biết cảm xúc tích hợp trí tuệ nhân tạo nói trên do công ty Trung Quốc Taigusys phát triển. Hệ thống này có thể phát hiện và giám sát nét mặt của nhiều người và viết báo cáo chi tiết về từng người để theo dõi cảm xúc của họ. 

Theo Taigusys, nhiều tập đoàn Trung Quốc như Huawei, China Mobile, China Unicorn và PetroChina  là khách hàng sử dụng hệ thống nói trên. 

Taigusys cho biết hệ thống nhận biết cảm xúc này giải quyết những thách thức mới và có thể giảm thiểu xung đột mà các hành vi cảm xúc, đối đầu đặt ra.

Phần mềm được tích hợp hệ thống trí tuệ nhân tạo (AI) có thể bao quát một loạt biểu cảm của nhiều cá nhân thông qua đánh giá cùng lúc. Sau đó, một thuật toán sẽ đánh giá chuyển động cơ mặt và dấu hiệu sinh trắc của từng người và đánh giá theo các thang điểm của Taigusys.

Cảm xúc tốt gồm những biểu hiện hạnh phúc, ngạc nhiên và cảm động. Hệ thống AI cũng nhận biết các cảm xúc tiêu cực như ghê tởm, buồn rầu, bối rối, khinh bỉ, giận dữ. Các cảm xúc trung lập như mức độ tập trung làm việc cũng được theo dõi.

Taigusys cho biết phần mềm này nhận biết được nhiều sắc thái cảm xúc tới mức có thể phát hiện ra ai đó đang giả vờ cười.

Phần mềm nhận biết cảm xúc còn có thể đề xuất hỗ trợ cảm xúc cho ai đó nếu họ có cảm xúc vượt quá ngưỡng “cảm xúc tiêu cực”.

Taigusys nói: “Dựa trên phân tích nét mặt ai đó, hệ thống có thể tính toán mức độ đối đầu, căng thẳng, hồi hộp của một người. Chúng tôi có thể phân tích phản ứng cảm xúc của người đó và phát hiện xem họ có định làm điều gì đó khả nghi không”.

Các nhà hoạt động nhân quyền và chuyên gia công nghệ cảnh báo về việc triển khai các chương trình như trên, nói rằng hệ thống nhận biết cảm xúc về cơ bản là không khoa học và không hợp đạo đức.

Bà Vidushi Marda tại tổ chức nhân quyền Anh Article 19 nhận định: “Nếu công nghệ này được triển khai, nó vi phạm quyền hợp pháp và đạo đức của nhân viên tại nơi làm việc. Ngay cả tại nơi làm việc tư nhân, vẫn cần duy trì quyền riêng tư, phẩm giá và quyền được tự do suy nghĩ và hành động cho nhân viên”.

Bà lưu ý rằng các hệ thống nhận biết cảm xúc thường được xây dựng dựa trên cơ sở giả khoa học và các giả định chưa được chứng minh rằng nét mặt liên quan tới trạng thái cảm xúc bên trong.

Ngoài ra, hệ thống kiểu trên còn có thể gây ra tình trạng tự kiểm soát bản thân và hành vi để qua mặt hệ thống. 

Hơn nữa, hiện chưa rõ AI có thể hiểu được những cảm xúc phức tạp của con người tới đâu. Bà Sandra Wachter, Phó giáo sư tại Viện Internet Oxford thuộc Đại học Oxford cho biết thuật toán khó có thể hiểu chính xác trạng thái cảm xúc phức tạp của con người chỉ qua nét mặt. Ví dụ, phụ nữ thường mỉm cười xã giao lịch sự, nhưng không có nghĩa đó là dấu hiệu hạnh phúc.

Vì các lý do vi phạm đạo đức và luật pháp mà tới nay, nhà tù là nơi duy nhất công khai thừa nhận sử dụng chương trình này. 

Theo bà Chen Wei, một giám đốc tại Taigusys, hệ thống nhận biết cảm xúc của công ty đã được lắp đặt tại 300 nhà tù và trung tâm giam giữ khắp Trung Quốc. Hệ thống kết nối với 60.000 camera tại đây và giúp tù nhân dễ bảo hơn. Hệ thống này có thể giám sát con người theo thời gian thực, 24 giờ mỗi ngày.

Bà Chen nói: “Bạo lực và tự tử rất phổ biến trong tù. Ngay cả nếu cảnh sát không đánh đập tù nhân thì họ cũng tìm cách làm tù nhân kiệt sức bằng cách không cho tù nhân ngủ. Hậu quả là một số tù nhân suy sụp tâm thần và tìm cách tự tử. Hệ thống của chúng tôi sẽ giúp ngăn chặn điều đó”.