Động thái này đánh dấu bước đi mới trong nỗ lực của các bang nhằm kiểm soát hoạt động của chatbot và bảo vệ trẻ em trước những rủi ro từ AI.
Thống đốc bang New York Kathy Hochul ngày 28/10 đã ký ban hành luật, trong đó xác định 12 nhóm tính năng không an toàn bị cấm khi chatbot đồng hành tương tác với trẻ vị thành niên. Luật sẽ có hiệu lực từ ngày 1/1/2027. Nếu vi phạm, nhà phát triển chatbot có thể bị Văn phòng Tổng chưởng lý bang khởi kiện, đối mặt với các hình thức xử phạt như bồi thường thiệt hại, buộc ngừng hoạt động chatbot hoặc tiêu hủy dữ liệu.
Theo quy định mới, chatbot không được khiến trẻ tin rằng hệ thống là người thật có cảm xúc, quan điểm hoặc đang duy trì một mối quan hệ thực sự với trẻ. Những hành vi bị cấm còn bao gồm sử dụng lời lẽ tâng bốc, gửi nội dung khiêu dâm, khuyến khích trẻ giữ bí mật hoặc thúc đẩy những hành vi không lành mạnh.
Luật được ban hành trong bối cảnh ngày càng có nhiều cảnh báo về nguy cơ từ sự phát triển nhanh chóng của AI, trong khi Quốc hội và chính quyền liên bang Mỹ chưa xây dựng được khuôn khổ quản lý toàn diện. Vì vậy, nhiều bang đang thúc đẩy các quy định dựa trên luật bảo vệ người tiêu dùng nhằm tăng tính minh bạch trong việc sử dụng AI và kiểm soát những hệ thống chatbot có nguy cơ gây hại.
Hai bang New York và California đang đi đầu trong nỗ lực này. Tháng 9 vừa qua, Thống đốc California Gavin Newsom đã ký ban hành luật yêu cầu các nhà phát triển chatbot đánh giá rủi ro đối với trẻ em, công khai các biện pháp giảm thiểu rủi ro và chịu kiểm toán độc lập để xác định mức độ tuân thủ. Ông cũng ký luật cấm các nền tảng mạng xã hội triển khai những tính năng gây nghiện đối với người dưới 16 tuổi.
Đầu tháng này, 8 bang của Mỹ đã khởi kiện OpenAI, cáo buộc chatbot của công ty này vi phạm luật bảo vệ người tiêu dùng cấp bang, gây tổn hại cho trẻ em và đánh lừa người trưởng thành. Vụ kiện được xem là một trong những nỗ lực phối hợp đáng chú ý của các bang nhằm xử lý những vấn đề phát sinh từ AI.
Ông Jim Steyer - nhà sáng lập kiêm Giám đốc điều hành tổ chức giám sát Common Sense Media - đánh giá luật mới của New York là dự luật về an toàn AI dành cho trẻ em mạnh mẽ nhất tại Mỹ.
Trong khi đó, bà Justine Gluck - chuyên gia phân tích chính sách tại tổ chức phi lợi nhuận Future of Privacy Forum - nhận định những cách tiếp cận khác nhau của New York và California có thể trở thành hình mẫu để các bang khác tham khảo khi cơ quan lập pháp hoạt động trở lại vào năm tới.
Theo bà, các quy định đang chuyển từ yêu cầu công khai thông tin cơ bản và quy trình ứng phó khủng hoảng sang kiểm soát trực tiếp hơn thiết kế và cách vận hành chatbot. Tuy nhiên, bà Gluck lưu ý một số nhóm hành vi bị cấm trong luật New York được diễn đạt khá rộng hoặc chưa có định nghĩa rõ ràng. Điều này có thể gây khó khăn khi thực thi, đặc biệt trong việc phân định giữa phản hồi hội thoại thông thường và hành vi bị coi là vi phạm.
Dù các thống đốc thừa nhận chính quyền liên bang có nhiều công cụ và thẩm quyền hơn để xử lý những rủi ro từ AI, nhưng Tổng thống Donald Trump đã phản đối việc các bang tự ban hành quy định quản lý lĩnh vực này. Những bất đồng đó tiếp tục đặt ra câu hỏi về cách phân chia thẩm quyền quản lý AI giữa chính quyền liên bang và các bang tại Mỹ.
