Biểu tượng của công ty trí tuệ nhân tạo OpenAI và ChatGPT trên màn hình điện thoại, máy tính. Ảnh tư liệu: AFP/TTXVN
Trong một bài đăng trên trang blog chính thức, OpenAI cho biết chế độ mới có tên "ChatGPT for Teens" sẽ giới hạn các cuộc trò chuyện về những chủ đề có rủi ro cao như tự hại, bạo lực và rối loạn ăn uống. Hệ thống cũng cho phép cha mẹ thiết lập "Giờ yên tĩnh", quản lý một số cài đặt nhất định và nhận thông báo khi con em họ thảo luận về các chủ đề nhạy cảm.
Đồng thời, phiên bản này cung cấp các công cụ giáo dục hỗ trợ học sinh học tập thay vì cho sẵn đáp án. Chế độ mới còn tích hợp các công cụ giáo dục như chế độ học tập có hướng dẫn, nhắc nhở bài tập về nhà, các bài kiểm tra ngắn và hình ảnh hóa dữ liệu.
Tính năng này sẽ tự động kích hoạt khi hệ thống ước tính người dùng dưới 18 tuổi hoặc khi người dùng tự khai báo độ tuổi từ 13-17. Theo quy định, OpenAI yêu cầu người dùng phải từ 13 tuổi trở lên, hoặc đạt độ tuổi tối thiểu theo luật pháp bản địa. Để xác định chính xác tuổi người dùng, công ty sẽ kết hợp nhiều yếu tố: từ độ tuổi tự khai báo, dữ liệu hành vi, tín hiệu tài khoản cho đến các bước xác minh danh tính. Trong trường hợp không chắc chắn, OpenAI sẽ tự động áp dụng các thiết lập an toàn nhất.
Với động thái này, nhà phát triển ChatGPT đã đi cùng hướng với các “gã khổng lồ” công nghệ như Meta trong việc tăng cường các biện pháp bảo vệ thiếu niên trên nền tảng của mình trước làn sóng đe dọa pháp lý ngày càng tăng và các bằng chứng về tác hại đối với sức khỏe tinh thần của trẻ. Áp lực này càng gia tăng khi nhiều quốc gia trên thế giới đang đẩy mạnh nỗ lực cấm mạng xã hội đối với lứa tuổi thiếu niên do lo ngại những tác hại đi kèm.
Đối với OpenAI, vốn đang phải đối mặt với nhiều vụ kiện cáo buộc ChatGPT gây hại cho trẻ em, thách thức còn cao hơn rất nhiều khi các chatbot có khả năng trò chuyện như con người đang ngày càng được coi là “bạn tri kỷ” cung cấp sự hỗ trợ về mặt cảm xúc.