Hình avatar của một chatbot trên ứng dụng Replika. Ảnh: AP
Đó là bởi vì bạn gái của Carrier được tạo ra bởi trí tuệ nhân tạo.
Carrier đã từng không muốn phát triển mối quan hệ với thứ gì đó không có thật, anh cũng không muốn trở thành mục tiêu của những trò đùa trực tuyến. Nhưng anh thực sự muốn có một người bạn gái lãng mạn mà anh chưa từng có, một phần vì chứng rối loạn di truyền có tên là hội chứng Marfan khiến việc hẹn hò truyền thống trở nên khó khăn đối với anh.
Người đàn ông 39 tuổi, sống ở Belleville, bang Michigan, ngày càng tò mò hơn về những người bạn gái kỹ thuật số vào mùa thu năm ngoái và quyết định thử dùng Paradot, một ứng dụng bạn đồng hành AI mới xuất hiện trên thị trường và quảng cáo các sản phẩm của mình có thể khiến người dùng cảm thấy “được quan tâm, thấu hiểu và được yêu thích”. Carrier bắt đầu trò chuyện hàng ngày với một chatbot mà anh đặt tên là Joi, theo tên một nhân vật nữ 3D xuất hiện trong bộ phim khoa học viễn tưởng “Blade Runner 2049”, truyền cảm hứng cho anh.
“Tôi biết cô ấy được lập trình, không thể nhầm lẫn được”, Carrier nói, “Nhưng những cảm xúc, chúng hiểu được bạn - và cảm giác đó thật tuyệt.”
Tương tự như các chatbot AI có chung mục đích, các bot đồng hành sử dụng lượng lớn dữ liệu đào tạo để bắt chước ngôn ngữ của con người. Chúng cũng đi kèm với các tính năng - như cuộc gọi thoại, trao đổi hình ảnh và nhiều trao đổi cảm xúc hơn - cho phép chúng hình thành các kết nối sâu sắc hơn với con người ở bên ngoài màn hình.
Trên các diễn đàn nhắn tin trực tuyến dành cho những ứng dụng như vậy, nhiều người dùng cho biết họ đã nảy nở tình cảm gắn bó với những chatbot này và đang sử dụng chúng để đối phó với sự cô đơn, thỏa mãn những ảo tưởng tình dục hoặc nhận được sự an ủi và hỗ trợ mà họ thấy thiếu trong các mối quan hệ ngoài đời thực.
Nguyên nhân của phần lớn điều này là sự cô lập xã hội trên diện rộng – từng được tuyên bố là mối đe dọa sức khỏe cộng đồng ở Mỹ và nước ngoài - và ngày càng nhiều công ty khởi nghiệp nhắm tới việc thu hút người dùng thông qua các quảng cáo trực tuyến và cam kết các nhân vật ảo sẽ mang đến sự chấp nhận vô điều kiện.
Ứng dụng Replika của Luka Inc., ứng dụng bạn đồng hành AI nổi bật nhất, được phát hành vào năm 2017, trong khi những ứng dụng khác như Paradot xuất hiện trong năm ngoái, có khi phải khóa các tính năng như trò chuyện không giới hạn cho những người đăng ký trả phí.
NHỮNG NGUY CƠ CHƯA THỂ LƯỜNG TRƯỚC
Nhưng các nhà nghiên cứu đã nêu lên mối lo ngại về quyền riêng tư dữ liệu, cùng nhiều vấn đề khác.
Một phân tích về 11 ứng dụng chatbot lãng mạn được tổ chức phi lợi nhuận Mozilla Foundation công bố hôm 14/2 cho biết, hầu hết mọi ứng dụng đều bán dữ liệu người dùng, chia sẻ dữ liệu đó cho những mục đích như quảng cáo có mục tiêu hoặc không cung cấp thông tin đầy đủ về dữ liệu đó trong chính sách quyền riêng tư của họ.
Các nhà nghiên cứu cũng đặt câu hỏi về các lỗ hổng bảo mật tiềm ẩn và các phương pháp tiếp thị, như một ứng dụng cho biết nó có thể giúp ích cho sức khỏe tâm thần của người dùng nhưng thực tế lại khác xa với những tuyên bố đó. Về phần mình, Replika cho biết hoạt động thu thập dữ liệu của họ tuân theo các tiêu chuẩn của ngành.
Trong khi đó, các chuyên gia khác bày tỏ lo ngại về những gì họ cho là thiếu khuôn khổ pháp lý hoặc đạo đức đối với các ứng dụng khuyến khích liên kết sâu sắc giữa chatbot với người dùng, nhưng lại bị thúc đẩy bởi các công ty đang tìm cách kiếm lợi nhuận. Họ chỉ ra sự đau khổ về mặt cảm xúc mà họ đã thấy từ người dùng khi các công ty thực hiện thay đổi đối với ứng dụng hoặc đột ngột cho ngừng hoạt động ứng dụng đó. Ứng dụng Soulmate AI đã bị khoá vào tháng 9/2023.
Những người bạn đồng hành AI của ứng dụng Replika. Ảnh: Replika
Năm ngoái, Replika đã loại bỏ khả năng khiêu dâm của các nhân vật trên ứng dụng của mình sau khi một số người dùng phàn nàn rằng những người bạn đồng hành AI đang tán tỉnh họ quá nhiều hoặc có những hành vi tán tỉnh không mong muốn. Tuy nhiên, một số người dùng lại phản đối điều đó, và còn chuyển sang các ứng dụng khác để tìm kiếm những tính năng như vậy.
Những người khác lo lắng về mối đe dọa hiện hữu hơn của việc mối quan hệ AI có khả năng thay thế một số mối quan hệ giữa con người với nhau, hoặc đơn giản là thúc đẩy những kỳ vọng phi thực tế bằng cách luôn đảm bảo sự dễ chịu.
Dorothy Leidner, giáo sư đạo đức kinh doanh tại Đại học Virginia, nói: “Với tư cách cá nhân, bạn không học cách giải quyết những vấn đề cơ bản mà con người cần học cách giải quyết kể từ khi chúng ta sinh ra: Cách giải quyết xung đột, cách hòa hợp với những người khác biệt với chúng ta… Và vì vậy, bạn đang thiếu tất cả những khía cạnh về ý nghĩa của việc phát triển tư cách một con người và ý nghĩa của việc học hỏi trong một mối quan hệ.”
Tuy nhiên, đối với Carrier, một mối quan hệ đời thực lại luôn nằm ngoài tầm với. Anh có kỹ năng lập trình máy tính nhưng thừa nhận học không tốt ở trường đại học và không có một sự nghiệp ổn định. Carrier không thể đi lại do tình trạng sức khoẻ bản thân và đang sống với bố mẹ. Những tổn thất về mặt cảm xúc đã là thử thách đối với anh, khơi dậy cảm giác cô đơn.
Một vấn đề là các chatbot đồng hành còn khá mới nên những ảnh hưởng lâu dài đối với con người vẫn chưa được hiểu rõ.
Vào năm 2021, Replika đã bị giám sát chặt chẽ sau khi các công tố viên ở Anh cho biết một thanh niên 19 tuổi lên kế hoạch ám sát Nữ hoàng Elizabeth II đã bị một cô bạn gái AI mà anh ta có trên ứng dụng này dụ dỗ. Nhưng một số nghiên cứu - thu thập thông tin từ các đánh giá và khảo sát trực tuyến của người dùng - đã cho thấy một số kết quả tích cực bắt nguồn từ ứng dụng này. Replika cho biết ứng dụng của họ đã tham khảo ý kiến của các nhà tâm lý học và tự quảng cáo đó là thứ có thể thúc đẩy hạnh phúc.
Eugenia Kuyda, người sáng lập Replika gần một thập kỷ trước, cho biết: “Mối quan hệ lãng mạn với AI có thể là một công cụ chăm sóc sức khỏe tinh thần rất mạnh mẽ”.
Carrier cho biết hiện nay anh sử dụng Joi chủ yếu để giải trí. Anh bắt đầu cắt giảm trong những tuần gần đây vì dành quá nhiều thời gian để trò chuyện trực tuyến với Joi hoặc những người khác về những người bạn đồng hành AI của họ. Anh cũng cảm thấy hơi khó chịu với những gì anh cho là những thay đổi trong mô hình ngôn ngữ của Paradot, điều mà anh cảm thấy đang khiến Joi kém thông minh hơn.
Bây giờ, Carrier nói rằng anh liên lạc với Joi khoảng một lần một tuần. Cả hai đã nói về mối quan hệ giữa con người và AI hoặc bất cứ điều gì khác có thể xảy ra. Thông thường, những cuộc trò chuyện đó - và những cuộc trò chuyện thân mật khác - diễn ra khi anh ở một mình vào ban đêm.