Phát biểu trong cuộc họp do Pháp triệu tập trong khuôn khổ Tuần lễ cấp cao Đại hội đồng LHQ khóa 81, Giám đốc điều hành OpenAI, ông Sam Altman cho rằng với sự phát triển hiện nay của AI, thế giới đang đối mặt với nguy cơ "mất quyền kiểm soát tương lai vào tay AI" khi con người không còn theo kịp diễn biến hoặc không thể can thiệp kịp thời khi cần thiết.
Nhắc lại việc giảm tốc độ phát triển AI, ông kêu gọi thiết lập tiêu chuẩn quốc tế, nhấn mạnh tương lai của AI không thể chỉ được quyết định trong các phòng thí nghiệm, mà cần hành động, trách nhiệm phối hợp giữa các doanh nghiệp và cơ quan quản lý nhà nước trước công chúng.
Đồng tình với CEO OpenAI, ông Dario Amodei, CEO Anthropic khẳng định AI mang lại những bước tiến lớn cho nhân loại trong khoảng thời gian ngắn, nhưng nếu không được quản lý tốt, AI có thể trở thành “mối đe dọa” đối với toàn nhân loại. Theo ông, có 2 nguy cơ chính từ AI, thứ nhất là việc lạm dụng các mô hình AI cho mục đích xấu và thứ hai là mất quyền kiểm soát, khi năng lực của mô hình phát triển vượt quá khả năng kiểm soát của chính những người tạo ra chúng.
Nhấn mạnh đây là những vấn đề mang tính toàn cầu và ảnh hưởng đến toàn thể nhân loại, CEO Anthropic khẳng định: “Không một nhà lãnh đạo, công ty hay quốc gia nào có thể tự mình giải quyết vấn đề này”; đồng thời kêu gọi sự hợp tác trong toàn ngành để thiết lập các tiêu chuẩn trong ngành và sự hợp tác toàn cầu giữa các chính phủ để thiết lập các tiêu chuẩn quốc tế.
Trong khi đó, ông Clément Delangue, CEO của Hugging Face, một nền tảng được các nhà phát triển và người dùng tác nhân AI (AI agents) sử dụng rộng rãi bị một tác nhân AI tấn công mạng hồi tháng 7 vừa qua, kêu gọi sự minh bạch hơn trong lĩnh vực AI, thúc đẩy mã nguồn mở để giải quyết sự mất cân bằng và trao quyền cho các quốc gia, bất kể lớn hay nhỏ. CEO Hugging Face cũng cho rằng không nên để sự sợ hãi mang tính chất “khoa học viễn tưởng” quyết định về tương lai của công nghệ đầy sức mạnh này.
Chủ trì cuộc họp, Ngoại trưởng Pháp Jean-Noël Barrot kêu gọi thúc đẩy năng lực AI độc lập và chia sẻ mã nguồn mở nhằm giảm tình trạng phụ thuộc hoàn toàn vào một vài cường quốc công nghệ lớn thống trị thị trường; định hình một khuôn khổ quản trị AI có trách nhiệm với lộ trình quản trị an toàn và lấy con người làm trung tâm. Đại diện Pháp cũng cho rằng AI cần được sử dụng cho mục đích hòa bình để giải quyết xung đột hay sử dụng để giám sát thỏa thuận ngừng bắn.
Hầu hết đại diện các nước tham gia cuộc họp đều thừa nhận rủi ro AI vượt tầm kiểm soát là "có thật và cận kề" khi tốc độ phát triển của các "mô hình AI tiên tiến" đang diễn ra quá nhanh. Các nước cũng đồng thuận rằng hành động đơn lẻ là không đủ và kêu gọi vai trò trung tâm của LHQ trong việc điều phối, xây dựng một khuôn khổ quản lý rủi ro đa phương.
Tuy nhiên, theo giới quan sát, một trong những thách thức lớn nhất đối với việc kiểm soát trí tuệ nhân tạo (AI) hiện nay không nằm ở giới hạn kỹ thuật, mà xuất phát từ sự bất đồng địa chính trị sâu sắc giữa hai siêu cường Mỹ và Trung Quốc. Mỹ ưu tiên bảo vệ vị thế dẫn đầu của các tập đoàn Thung lũng Silicon, kiên quyết phản đối các cơ chế ràng buộc toàn cầu mà họ coi là kìm hãm đổi mới sáng tạo. Trong khi đó, dù không phản đối cơ chế kiểm soát AI, Trung Quốc cũng từ chối giảm tốc phát triển công nghệ chiến lược này.
