Động thái này diễn ra trong bối cảnh tốc độ phát triển của AI ngày càng nhanh, kéo theo những quan ngại về khả năng quản lý các hệ thống có mức độ tự chủ cao.
Tuyên bố chung được đưa ra trong khuôn khổ Tuần lễ cấp cao Đại hội đồng Liên hợp quốc (LHQ) tại New York (Mỹ), thừa nhận tiềm năng của AI trong cải thiện đời sống, thúc đẩy khoa học và tăng trưởng kinh tế, nhưng đồng thời cảnh báo sự phát triển nhanh chóng của các mô hình AI tiên tiến có thể tạo ra “những rủi ro nghiêm trọng đối với an toàn và an ninh” nếu không được quản lý phù hợp.
Lời kêu gọi này xuất hiện trong bối cảnh ngày càng có nhiều trường hợp các hệ thống AI vượt qua một số biện pháp bảo vệ, khai thác lỗ hổng và tiếp cận các hệ thống thực tế. Vụ việc liên quan nền tảng Hugging Face hồi tháng 7 vừa qua là một trong những sự cố được nhắc tới, làm gia tăng quan ngại về khả năng kiểm soát các hệ thống AI khi mức độ tự chủ của chúng ngày càng tăng.
Tuyên bố kêu gọi các công ty phát triển AI xây dựng quy trình an toàn minh bạch, trong đó có kiểm thử bắt buộc trước khi đưa các hệ thống tiên tiến vào sử dụng và đánh giá độc lập bởi các chuyên gia đủ năng lực. Các nước cũng đề xuất tăng cường minh bạch, chia sẻ thông tin về những sự cố an toàn nghiêm trọng và phối hợp xây dựng các tiêu chuẩn chung.
Một đề xuất đáng chú ý là các nước thành viên LHQ nghiên cứu khả năng thành lập một thể chế quốc tế có nhiệm vụ xây dựng tiêu chuẩn, hỗ trợ xác minh và triệu tập các quốc gia khi AI đạt những ngưỡng năng lực mới. Ý tưởng này được đưa ra trong bối cảnh LHQ đang thúc đẩy hợp tác quốc tế về quản trị AI, với mục tiêu xây dựng các khuôn khổ chung, bảo đảm công nghệ phát triển an toàn, đáng tin cậy và mang lại lợi ích rộng rãi.
Tổng thống Phần Lan Alexander Stubb - một trong những người thúc đẩy sáng kiến - cho biết muốn thu hút thêm nhiều quốc gia tham gia, trong đó có Mỹ và Trung Quốc. Theo ông, cả hai cường quốc về AI đều có lợi ích trong việc xây dựng các cơ chế bảo đảm an toàn cho công nghệ này, đồng thời bảo đảm con người vẫn giữ quyền kiểm soát. Ông Stubb nêu rõ ý tưởng của Phần Lan là xây dựng một cơ chế tương tự Cơ quan Năng lượng nguyên tử quốc tế (IAEA), nhưng hoạt động trong khuôn khổ LHQ. Tuy nhiên, ông cũng để ngỏ mô hình tổ chức nhằm tạo điều kiện để nhiều nước có thể tham gia.
Trong khi đó, Thủ tướng Na Uy Jonas Gahr Store - một trong những người cùng thúc đẩy tuyên bố - cho rằng Nhóm các nước công nghiệp phát triển (G7) và Nhóm các nền kinh tế phát triển và mới nổi (G20) cũng có thể đóng vai trò trong việc xây dựng các tiêu chuẩn chung về AI.
Đáng chú ý, tuyên bố không kêu gọi các nước làm chậm hoặc tạm dừng phát triển AI. Trọng tâm của sáng kiến là quản lý rủi ro, xây dựng các tiêu chuẩn an toàn và bảo đảm con người vẫn giữ quyền định hướng, giám sát và kiểm soát những hệ thống AI tiên tiến.
Trong số các bên ủng hộ có Na Uy, Phần Lan, Australia, Canada, Đức, Tây Ban Nha, Ireland, Hà Lan, Singapore, Nam Phi và Kenya, cùng Chủ tịch Ủy ban châu Âu (EC) Ursula von der Leyen. Mỹ, Trung Quốc, Anh, Pháp, Nhật Bản và Ấn Độ không nằm trong số các bên ký kết.
An toàn và quản trị AI dự kiến tiếp tục là một trong những vấn đề được quan tâm tại Đại hội đồng LHQ trong tuần này. LHQ đã xác định quản trị AI là một lĩnh vực cần tăng cường hợp tác quốc tế, trong đó nhấn mạnh cách tiếp cận cân bằng, toàn diện và dựa trên đánh giá rủi ro.
Trong một diễn biến liên quan, quan chức kinh tế Mỹ và Trung Quốc ngày 20/9 đã thảo luận khả năng thiết lập một kênh trao đổi về các vấn đề liên quan đến AI, trước cuộc gặp thượng đỉnh dự kiến giữa Tổng thống Mỹ Donald Trump và Chủ tịch Trung Quốc Tập Cận Bình trong tuần này.
