Theo báo chí Anh, OpenAI ngày 21/9 kêu gọi chính quyền Tổng thống Mỹ Donald Trump dẫn dắt nỗ lực xây dựng các tiêu chuẩn quốc tế đối với AI. Đề xuất được công bố trước bài phát biểu dự kiến của Giám đốc điều hành OpenAI Sam Altman tại Hội đồng Bảo an Liên hợp quốc ngày 23/9 về những rủi ro liên quan đến AI.
Theo OpenAI, các quốc gia cần phối hợp chặt chẽ hơn trong đánh giá năng lực và mức độ rủi ro của các mô hình AI, đặc biệt khi công nghệ này ngày càng có khả năng tham gia vào quá trình tự huấn luyện và cải tiến.
Đề xuất của OpenAI có nhiều điểm tương đồng với những lời kêu gọi trước đó của các công ty đối thủ như Anthropic và Google về xây dựng tiêu chuẩn chặt chẽ hơn, đồng thời tăng cường hợp tác quốc tế trong lĩnh vực AI.
Kêu gọi thiết lập kênh liên lạc Mỹ - Trung
OpenAI cũng đề xuất Mỹ và Trung Quốc thiết lập các kênh liên lạc an toàn để chia sẻ thông tin về những mối đe dọa mới xuất hiện. Đây là hai quốc gia đang dẫn đầu cuộc đua phát triển AI toàn cầu. Công ty này cho rằng đối thoại giữa Washington và Bắc Kinh về an toàn, an ninh AI sẽ là một bước đi tích cực.
Đề xuất được đưa ra sau khi Bộ trưởng Tài chính Mỹ Scott Bessent cho biết hai nước đã nhất trí thiết lập cơ chế đối thoại về AI. Thỏa thuận này đạt được trong cuộc làm việc giữa ông Bessent và Phó thủ tướng Trung Quốc Hà Lập Phong tại New York ngày 20/9.
Lo ngại về rủi ro AI đang gia tăng nhanh chóng khi năng lực của các hệ thống ngày càng được mở rộng. Anthropic và OpenAI đều ghi nhận nhiều trường hợp mô hình của họ có thể xâm nhập các hệ thống bên ngoài.
Một số nhà nghiên cứu tại các công ty AI còn cảnh báo rằng những hệ thống mất kiểm soát hoặc bị sử dụng sai mục đích có thể gây ra thảm họa đe dọa sự tồn tại của nhân loại.
Vừa qua, Giám đốc điều hành Anthropic Dario Amodei, ông Altman và tỷ phú Elon Musk cùng kêu gọi giảm tốc độ phát triển AI. Đây là sự đồng thuận hiếm thấy giữa những nhân vật đang cạnh tranh quyết liệt trong ngành công nghệ này.
Tuy nhiên, Tổng thống Trump bác bỏ lời kêu gọi trên với lý do Mỹ đang phải cạnh tranh với Trung Quốc. Ông cho rằng quốc gia giành chiến thắng trong cuộc đua AI sẽ có được lợi thế quyết định.
Nguy cơ con người mất quyền kiểm soát
Đề xuất của OpenAI tương đồng với lời kêu gọi được ông Demis Hassabis, đồng sáng lập kiêm Chủ tịch Google DeepMind, đưa ra hồi tháng 7. Ông Hassabis cho rằng sáng kiến do Mỹ khởi xướng có thể tạo nền tảng để xây dựng các tiêu chuẩn quốc tế chung đối với AI tiên tiến.
Lãnh đạo Google DeepMind đề xuất thành lập tổ chức công - tư tương tự Cơ quan Quản lý ngành tài chính (Finra), trong đó hội đồng quản trị gồm các chuyên gia kỹ thuật độc lập hàng đầu và đại diện cộng đồng nguồn mở.
Theo ông Hassabis, cơ chế tương tự hệ thống quản lý tài chính quốc tế là cần thiết để kiểm soát AI - công nghệ có thể tạo ra tác động lớn gấp 10 lần Cách mạng Công nghiệp nhưng diễn ra với tốc độ nhanh gấp 10 lần.
OpenAI đề xuất tận dụng mạng lưới các viện an toàn AI cấp quốc gia hiện có để xây dựng tiêu chuẩn chung về đánh giá mô hình. Công ty này cho rằng có thể học hỏi cách tiếp cận của ngành hàng không và hệ thống ổn định tài chính, nơi các nước cùng xây dựng tiêu chuẩn kỹ thuật và kênh hợp tác đáng tin cậy mà không phải từ bỏ thẩm quyền quốc gia.
Một trong những vấn đề OpenAI đặc biệt lưu ý là khả năng tự cải tiến lặp lại, khi các hệ thống AI đảm nhận ngày càng nhiều công đoạn trong quá trình nghiên cứu và huấn luyện những mô hình mới.
OpenAI cảnh báo nếu quá trình này diễn ra mà không có biện pháp kiểm soát phù hợp, con người có thể mất khả năng giám sát thực tế đối với quá trình phát triển AI, do không còn hiểu đầy đủ những quy trình nghiên cứu mà công nghệ tự thực hiện.
