Theo CEO OpenAI, việc trao cho AI "quyền lực tôn giáo" có thể gây ra "vấn đề thực sự về an toàn".
Hãng thông tấn Anadolu của Thổ Nhĩ Kỳ ngày 4/10 cho biết phát biểu của Giám đốc điều hành (CEO) OpenAI, ông Sam Altman được đưa ra sau khi Anthropic tham vấn các học giả tôn giáo và triết học trong bối cảnh tranh luận về ý thức và đạo đức của AI.
Ông Sam Altman cảnh báo không nên trao cho các mô hình trí tuệ nhân tạo (AI) thẩm quyền mang tính tôn giáo hoặc từ bỏ khả năng phán đoán của con người để phụ thuộc vào AI, cho rằng đây là một "vấn đề thực sự về an toàn".
Viết trên nền tảng mạng xã hội X, CEO OpenAI cho biết: "Tôi cảm thấy rất không thoải mái trước việc mọi người tìm cách gán cho các mô hình AI một dạng quyền lực tôn giáo hoặc từ bỏ khả năng phán đoán của con người để trao cho AI, và tôi cho rằng đây là một vấn đề thực sự về an toàn".
Phát biểu của ông Altman được đưa ra vài ngày sau khi xuất hiện thông tin cho biết Anthropic, một công ty AI cạnh tranh với OpenAI, đã tổ chức các cuộc gặp riêng với các học giả và chuyên gia về tôn giáo và triết học để thảo luận về ý thức và đạo đức của AI.
Báo The New York Times đưa tin các cuộc thảo luận đề cập đến câu hỏi liệu những hệ thống AI như Claude có khả năng sở hữu ý thức hay không, cũng như tư duy tôn giáo có thể góp phần định hình hành vi của các hệ thống này như thế nào.
Anthropic cũng đang nghiên cứu vấn đề mà công ty gọi là "phúc lợi mô hình" (model welfare), trong đó có câu hỏi liệu các hệ thống AI tiên tiến có thể có những trải nghiệm cần được xem xét dưới góc độ đạo đức hay không.
Vấn đề này cũng thu hút sự quan tâm và lo ngại của các lãnh đạo công nghệ khác.
Giám đốc điều hành Microsoft AI Mustafa Suleyman từng cảnh báo không nên phát triển các hệ thống AI tạo ra cảm giác rằng chúng có ý thức.
Ông Suleyman cho rằng việc khuyến khích con người tin rằng AI có những trải nghiệm chủ quan có thể tạo ra những rủi ro mới.
Ông Suleyman ủng hộ cách tiếp cận "AI lấy con người làm trung tâm" (Humanist AI), theo đó các hệ thống AI vẫn là những công cụ được thiết kế để phục vụ con người, thay vì được đối xử như những thực thể có lợi ích riêng.
Có thể nói, tranh luận hiện nay không đơn thuần xoay quanh câu hỏi liệu AI có thể có "ý thức" hay "linh hồn".
Vấn đề thực tế hơn là con người sẽ trao cho AI bao nhiêu thẩm quyền trong quá trình ra quyết định.
Khi chatbot ngày càng có khả năng tạo ra câu trả lời tự nhiên, tự tin và mang tính cá nhân hóa cao, người dùng có thể dễ dàng nhầm lẫn giữa khả năng tạo lập ngôn ngữ thuyết phục với tri thức, phán đoán đạo đức hoặc thẩm quyền tinh thần.
Từ những tranh luận trên, một vấn đề đặt ra đối với quản trị AI là xác định ranh giới giữa vai trò hỗ trợ của AI và trách nhiệm phán đoán, quyết định của con người.
