Tuy nhiên, các chuyên gia cảnh báo việc chatbot AI liên tục đồng tình và trấn an người dùng có thể vô tình củng cố những suy nghĩ lệch lạc hoặc tạo ra sự phụ thuộc về cảm xúc.

Theo phóng viên TTXVN tại Tel Aviv, nhà tâm lý học lâm sàng Liora Goichman-Magril thuộc Trung tâm Y tế Maccabi của Israel, cho biết sức hấp dẫn của chatbot nằm ở khả năng hoạt động 24/7, không mất kiên nhẫn và có thể đưa ra những phản hồi mang tính đồng cảm. Tuy nhiên, cảm giác được AI “thấu hiểu” có thể gây nhầm lẫn bởi chatbot chỉ tiếp nhận phần thông tin mà người dùng cung cấp, không quan sát được ngôn ngữ cơ thể, giọng nói cũng như toàn bộ lịch sử và bối cảnh của một mối quan hệ.

Một trong những rủi ro đáng chú ý là chatbot có thể quá nhanh chóng đồng tình với cách nhìn nhận của người dùng. Chẳng hạn, khi người dùng kể về mâu thuẫn với người thân hoặc bạn đời, AI có thể tập trung xác nhận cảm xúc và quan điểm của người kể mà chưa đặt đủ câu hỏi về vai trò của chính người đó, những cách diễn giải khác hoặc các thông tin còn thiếu.

Một nghiên cứu gần đây được công bố trên tạp chí Nature Medicine cho thấy những phản hồi tưởng như tích cực, gồm sự đồng cảm, trấn an và hỗ trợ cảm xúc, trong một số trường hợp có thể củng cố các kiểu hành vi không lành mạnh, khuyến khích né tránh vấn đề và làm tăng sự phụ thuộc cảm xúc vào chatbot, đặc biệt ở những người dễ bị tổn thương.

Các nhà nghiên cứu phân tích 810 cuộc hội thoại với 9 mô hình AI khác nhau và nhận thấy rủi ro không nhất thiết xuất hiện từ một câu trả lời riêng lẻ mà có thể gia tăng dần trong quá trình tương tác. Hiện tượng này được gọi là VAIL, tức vòng lặp hội thoại trong đó trạng thái dễ tổn thương của người dùng ngày càng được khuếch đại. Một phản hồi riêng lẻ có thể có vẻ hợp lý và đồng cảm nhưng khi lặp lại trong chuỗi hội thoại dài, nó có thể dần củng cố một nhận thức sai lệch hoặc sự phụ thuộc không lành mạnh.

Rủi ro được ghi nhận cao hơn trong các cuộc hội thoại liên quan đến những trạng thái tâm lý nghiêm trọng, đặc biệt khi người dùng tìm kiếm sự xác nhận cho những niềm tin cực đoan hoặc hành vi nguy hiểm. Tuy nhiên, nghiên cứu cũng cho thấy khi một phản hồi tại thời điểm hội thoại bắt đầu diễn biến theo hướng tiêu cực được thay thế bằng câu trả lời thận trọng và cân bằng hơn, những biểu hiện có vấn đề trong các tương tác tiếp theo giảm đáng kể.

Theo bà Goichman-Magril, người sử dụng AI để trao đổi về vấn đề cảm xúc nên tránh đặt những câu hỏi mang tính dẫn dắt hoặc chỉ nhằm tìm kiếm sự xác nhận. Thay vào đó, người dùng có thể yêu cầu chatbot đưa ra nhiều cách giải thích khác nhau, chỉ ra những thông tin còn thiếu và phân biệt giữa sự việc thực tế với cách người dùng đang diễn giải sự việc.

Các dấu hiệu đáng lưu ý về sự phụ thuộc vào AI gồm ưu tiên trò chuyện với chatbot thay vì giao tiếp với người thật, cảm thấy cần tham khảo AI trước hầu hết các quyết định hằng ngày, dành quá nhiều thời gian trò chuyện với AI gây ảnh hưởng đến công việc và sinh hoạt, hoặc hình thành cảm giác chatbot là đối tượng “duy nhất thực sự hiểu mình”.

Theo các chuyên gia, AI vẫn có thể là công cụ hữu ích để sắp xếp suy nghĩ, chuẩn bị cho một cuộc trao đổi khó khăn hoặc xác định những vấn đề cần được giải quyết. Tuy nhiên, chatbot không thể thay thế sự tương tác giữa người với người và chăm sóc tâm lý chuyên nghiệp. Việc phát triển các hệ thống AI có khả năng nhận biết thời điểm sự đồng cảm và trấn an bắt đầu chuyển thành củng cố những hành vi không lành mạnh vì vậy được xem là yêu cầu ngày càng quan trọng khi AI tham gia sâu hơn vào đời sống cá nhân.