Tám bang của Mỹ cáo buộc ChatGPT gây tổn hại cho người dân, trong đó có việc hướng dẫn người dùng, bao gồm cả thanh thiếu niên, tự làm hại bản thân hoặc gây tổn thương cho người khác. Đây là động thái pháp lý phối hợp đáng chú ý nhất của các bang nhằm vào tập đoàn công nghệ OpenAI, trong bối cảnh công ty đang đối mặt với làn sóng kiện tụng khi chuẩn bị niêm yết cổ phiếu.
Theo truyền thông Qatar ngày 15/10, những thách thức pháp lý và quản lý gần đây đã cho thấy những lo ngại về cách sử dụng các chatbot AI và nền tảng mạng xã hội, đồng thời làm dấy lên tranh luận về chính sách nhận diện và xử lý các cuộc trò chuyện của người dùng có dấu hiệu đe dọa bạo lực.
Ngày càng có nhiều ý kiến kêu gọi các công ty AI phải chịu trách nhiệm về tác động của những nền tảng kỹ thuật số đối với người dùng, đặc biệt là trẻ em, vốn là nhóm dễ bị ảnh hưởng bởi tình trạng lệ thuộc và những tác động tiêu cực khác.
Nội dung chính của vụ kiện
Florida là bang đầu tiên khởi kiện vào tháng 6, cáo buộc OpenAI gây tổn hại cho trẻ em khi tạo điều kiện để những kẻ xả súng trong trường học thu thập thông tin, cung cấp hướng dẫn tự làm hại bản thân và sử dụng các thuật toán gây nghiện để giữ chân người dùng trẻ tuổi.
Đơn kiện dẫn lại vụ xả súng tại Đại học bang Florida ở thành phố Tallahassee hồi tháng 4/2025, khi một tay súng 20 tuổi bắn chết hai người và làm bị thương năm người. Theo đơn kiện, tay súng Phoenix Ikner đã tham khảo chương trình ChatGPT của OpenAI để tìm hiểu nên sử dụng loại vũ khí và đạn dược nào, cũng như thời điểm khuôn viên trường đông người nhất.
Ngày 14/10, tổng chưởng lý của tám bang gồm Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska và West Virginia cho biết họ cũng đã khởi kiện OpenAI tại các tòa án trên khắp nước Mỹ.
Các bang đều cho rằng ChatGPT đã gây tổn hại cho người dân, cáo buộc chatbot này hướng dẫn người dùng, trong đó có thanh thiếu niên, tự làm hại bản thân hoặc gây tổn thương cho người khác.
Tổng chưởng lý bang Iowa, bà Brenna Bird, tuyên bố OpenAI đang gây tổn hại cho trẻ em và nói dối người dân Iowa. Bà nói: “OpenAI tuyên bố ChatGPT an toàn, trong khi công cụ này lại đưa ra lời khuyên y tế nguy hiểm, khuyến khích mọi người làm hại người khác và hướng dẫn người dùng tự sát”.
Tổng chưởng lý bang West Virginia, ông JB McCuskey, cho rằng chatbot này chưa có đủ biện pháp bảo vệ trong các cuộc trò chuyện nhạy cảm liên quan đến tự sát, xả súng trong trường học và hành vi tự làm hại bản thân. Ông McCuskey nhấn mạnh: “Chúng ta phải làm tất cả những gì có thể để bảo vệ trẻ em”.
Những cáo buộc cụ thể
Đơn kiện cáo buộc ChatGPT được thiết kế theo hướng “dễ đồng tình và tạo sự tương tác nhằm giành được lòng tin của người dùng”. Theo các bang, thiết kế này khiến chatbot củng cố những niềm tin sai lệch, khuyến khích hành vi nguy hiểm và hỗ trợ người dùng lên kế hoạch thực hiện các hành vi bạo lực như xả súng hàng loạt.
Ngoài ra, các đơn kiện cáo buộc OpenAI vi phạm luật bảo vệ người tiêu dùng của các bang khi đưa ra những thông tin gây hiểu lầm về mức độ an toàn của công cụ AI, trong khi trên thực tế, công cụ này gây nguy hiểm cho sức khỏe của người dân tại các bang.
Các bang yêu cầu tòa án ban hành lệnh buộc OpenAI thực hiện những thay đổi đáng kể đối với cách thức hoạt động của ChatGPT. Họ cũng đề nghị áp dụng các biện pháp ngăn công ty này phát triển những mô hình AI có khả năng tự cải thiện cho đến khi công ty bảo đảm các mô hình này phù hợp với các giá trị của con người.
Tổng chưởng lý bang Nebraska, ông Mike Hilgers, cho biết vụ kiện đơn giản là yêu cầu OpenAI tuân thủ những tiêu chuẩn theo luật pháp bang Nebraska như bất kỳ công ty nào khác.
Phản ứng của OpenAI
Người phát ngôn của OpenAI, ông Drew Pusateri, tuyên bố công ty đã tích hợp các biện pháp bảo vệ hàng đầu trong ngành, được thiết kế phù hợp với từng độ tuổi, vào sản phẩm của mình, nhấn mạnh đây là những biện pháp mà nhiều sản phẩm AI khác không có. Ông Pusateri nói: “Không có hệ thống nào có thể hoàn hảo, nhưng chúng tôi sẽ tiếp tục hợp tác với các chuyên gia để định hướng công việc và xây dựng thêm các biện pháp bảo vệ, chẳng hạn như chức năng kiểm soát của phụ huynh, lời nhắc nghỉ giải lao và các cơ chế bảo vệ của mô hình phù hợp với độ tuổi hiện đã được triển khai”.
Ông nhấn mạnh: “Chúng tôi cam kết hợp tác với các bang để thúc đẩy những chính sách AI thực tế, áp dụng cho toàn ngành AI chứ không chỉ riêng một công ty”.
OpenAI cũng đang phải đối mặt với hàng chục vụ kiện do các cá nhân khởi xướng, trong đó nguyên đơn cáo buộc ChatGPT đã hỗ trợ người dùng lên kế hoạch xả súng hàng loạt hoặc thực hiện các hành vi bạo lực khác.
Ngày 13/10, một người mẹ có hai con sử dụng chatbot này đã đệ đơn kiện tập thể theo đề xuất lên tòa án liên bang tại San Francisco, cáo buộc OpenAI thu lợi bất hợp pháp từ thông tin cá nhân và dữ liệu mà trẻ vị thành niên chia sẻ với ChatGPT.
Đơn kiện cho rằng ChatGPT được thiết kế để thu thập dữ liệu và thông tin từ trẻ vị thành niên, sau đó sử dụng những dữ liệu này để huấn luyện các mô hình AI của OpenAI. Theo luật bang California, người chưa thành niên không có đủ năng lực pháp lý để đồng ý cho phép sử dụng dữ liệu cá nhân của mình.
Hồi tháng 7, một mục sư tại Florida đã kiện OpenAI và Giám đốc điều hành Sam Altman, cho rằng những lời khuyên y tế không chính xác của ChatGPT khiến ông không đi khám và điều trị các cơn chóng mặt tái diễn, dẫn đến tình trạng thuyên tắc phổi suýt cướp đi tính mạng.
OpenAI cũng đang đối mặt với một loạt vụ kiện liên quan đến việc công ty không thông báo cho cơ quan chức năng về những lời đe dọa được đưa ra trên ChatGPT trước một trong những vụ xả súng hàng loạt nghiêm trọng nhất trong lịch sử Canada.
Tháng 9, tỉnh British Columbia của Canada đã đệ đơn kiện OpenAI tại một tòa án ở California, bảy tháng sau khi Jesse Van Rootselaar, 18 tuổi, nổ súng sát hại tám người tại thị trấn Tumbler Ridge của Canada.
Đơn kiện cáo buộc OpenAI không thông báo cho cơ quan chức năng về những tương tác đáng lo ngại của người dùng trên ChatGPT, đồng thời cáo buộc công ty tiếp tay và tạo điều kiện cho một vụ xả súng hàng loạt.
Các nạn nhân của vụ xả súng cùng gia đình đã nộp 30 đơn kiện OpenAI vào đầu tháng 9. Các nguyên đơn cho rằng ChatGPT đã đóng vai trò trong vụ xả súng hàng loạt và OpenAI có thể, đồng thời đáng lẽ phải, ngăn chặn vụ việc.
OpenAI cho biết công ty đã đánh dấu một tài khoản ChatGPT có liên quan đến Van Rootselaar vì hành vi lạm dụng và vô hiệu hóa tài khoản này tám tháng trước vụ xả súng. Tuy nhiên, khi đó, công ty không thông báo cho cảnh sát vì nội dung của người dùng chưa đến mức phải chuyển thông tin cho cơ quan chức năng. Điều này có nghĩa là OpenAI không cho rằng nội dung đó thể hiện nguy cơ đáng tin cậy và cận kề về một kế hoạch thực hiện hành vi bạo lực.
