Những số liệu trên được công bố trong báo cáo đầu tiên của công ty công nghệ OpenAI về việc thanh thiếu niên sử dụng ChatGPT, trong bối cảnh các công ty công nghệ ngày càng được quan tâm về những tác động của chatbot trí tuệ nhân tạo (AI) đối với người dùng trẻ.
Theo OpenAI, trong gần một nửa số cuộc trò chuyện của thanh thiếu niên xuất hiện lời nhắc nghỉ giải lao, người dùng đã nghỉ hoặc kết thúc cuộc trò chuyện trong vòng 5 phút. Công ty cho rằng đây là một trong những dấu hiệu cho thấy các biện pháp nhằm kiểm soát thời gian sử dụng của thanh thiếu niên đang phát huy tác dụng.
OpenAI cũng cho biết những người dùng được tiếp cận phiên bản ChatGPT dành riêng cho thanh thiếu niên gửi nhiều tin nhắn liên quan đến giáo dục hơn và sử dụng các tính năng như công cụ trực quan hóa kiến thức và chế độ học tập (Study Mode).
Công ty đang nghiên cứu bổ sung công cụ hỗ trợ lập kế hoạch nộp hồ sơ đại học, giúp học sinh theo dõi các yêu cầu, thời hạn và thủ tục hỗ trợ tài chính. OpenAI cũng dự kiến bổ sung một số tính năng học tập như thẻ ghi nhớ (flashcard) và công cụ tạo câu hỏi trắc nghiệm thuận tiện hơn.
OpenAI bắt đầu triển khai ChatGPT dành cho thanh thiếu niên từ tháng 8. Chế độ này được kích hoạt dựa trên thông tin về độ tuổi hoặc khi hệ thống xác định người dùng dưới 18 tuổi, đồng thời cho phép thiết lập quyền kiểm soát của phụ huynh và hạn chế một số nội dung nhạy cảm.
Tuy nhiên, một báo cáo của tổ chức phi lợi nhuận Common Sense Media công bố ngày 7/10 cho rằng ChatGPT dành cho thanh thiếu niên trong một số trường hợp thông báo cho phụ huynh muộn hoặc không thông báo khi tài khoản của người dùng có các cuộc trò chuyện liên quan đến tự tử, tự gây tổn thương hoặc rối loạn ăn uống. Báo cáo dựa trên hơn 10 tài khoản được tạo để kiểm thử cho thấy chatbot chưa đưa ra một cách nhất quán các đề xuất liên hệ đường dây hỗ trợ khẩn cấp hoặc tìm kiếm sự trợ giúp chuyên môn.
Người phát ngôn của OpenAI cho rằng kết quả kiểm thử trên “không phản ánh chính xác” cách thức hoạt động của các biện pháp bảo vệ dành cho thanh thiếu niên trên ChatGPT. Công ty cho biết do các yêu cầu về bảo mật và quy mô triển khai, việc liên kết tài khoản của phụ huynh và thanh thiếu niên cũng như kích hoạt cảnh báo an toàn có thể mất vài giờ.
Theo OpenAI, một số thử nghiệm của Common Sense Media có thể đã được tiến hành và kết thúc trước khi quá trình kích hoạt đầy đủ các tính năng kiểm soát của phụ huynh hoàn tất.
