Theo nhà xã hội học Sherry Turkle, chuyên gia Viện Công nghệ Massachusetts (MIT), một số phụ huynh cho biết con em họ tin rằng có người thật bên trong máy tính hoặc điện thoại thông minh. Bà cảnh báo việc sử dụng AI đặt ra những câu hỏi quan trọng về tác động đối với sự phát triển của trẻ, đặc biệt là khả năng phân biệt con người với vật vô tri. Nguy cơ này cũng hiện hữu ở người trưởng thành khi tương tác thường xuyên với chatbot có thể khiến họ tin rằng robot thực sự quan tâm và đáp lại tình cảm của mình, dù AI không có cảm xúc chân thực như con người.
Trong khi đó, nghiên cứu của các nhà khoa học thuộc Đại học Zurich (Thụy Sĩ) và Đại học Amsterdam (Hà Lan), công bố trên tạp chí Proceedings of the National Academy of Sciences (PNAS) của Mỹ, cho thấy ngay cả những chatbot tiên tiến nhất hiện nay vẫn chưa thể tái tạo đầy đủ các sắc thái biểu đạt ngôn ngữ của con người. Phân tích tin nhắn và bài đăng trên mạng xã hội cho thấy có thể phân biệt văn bản do AI tạo ra với nội dung giao tiếp của con người. Các hệ thống này vẫn gặp khó khăn trong việc nắm bắt sắc thái cảm xúc và ý định thực sự đằng sau thông điệp.
Các nghiên cứu trước đó cũng đặt ra lo ngại về mối liên hệ tiềm ẩn giữa việc sử dụng AI và suy giảm sức khỏe tâm thần. Các nhà nghiên cứu thuộc Đại học Oxford và University College London cảnh báo nguy cơ hình thành “vòng lặp phản hồi”, trong đó tương tác với chatbot có thể củng cố những niềm tin sai lệch, thậm chí mang tính hoang tưởng, ở người dùng.
