Cạnh tranh đang tạo ra một nghịch lý an toàn

Mối nguy mới của cuộc đua AI trước hết nằm ở nghịch lý: cạnh tranh càng quyết liệt, các doanh nghiệp càng có động lực đẩy nhanh năng lực mô hình, nhưng lại càng khó dành đủ thời gian và nguồn lực cho kiểm định an toàn. Theo Financial Times, hơn hai chục nhà nghiên cứu AI, nhà đầu tư, học giả và chuyên gia chính sách cảnh báo những năng lực AI từng được cho là còn cách nhiều năm đang xuất hiện nhanh hơn dự kiến, trong khi các doanh nghiệp hàng đầu bị cuốn vào cuộc cạnh tranh thương mại ngày càng gay gắt. Giáo sư Stuart Russell thuộc Đại học California, Berkeley nhận xét thẳng rằng cạnh tranh giữa các công ty khiến họ “đi đường tắt trong vấn đề an toàn”.

Đáng chú ý, những cảnh báo mạnh nhất hiện nay lại xuất phát từ chính cộng đồng phát triển AI. Nhà nghiên cứu Jacob Coxon của Anthropic khi từ chức vào hôm 9/9 đã cảnh báo trong một bài viết trên nền tảng mạng xã hội X rằng hiện nay không công ty nào hành động một cách có trách nhiệm. Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược với cuộc sống của chúng ta".

Coxon chia sẻ bản thân không muốn tham gia vào cuộc đua giữa các công ty nhằm đạt đến trạng thái mà con người không còn kiểm soát được AI.

Evan Hubinger, Trưởng nhóm Khoa học Điều chỉnh tại Anthropic, phản hồi dưới bài đăng của đồng nghiệp cũ: "Jacob nói đúng. Chúng tôi thực sự tin AI có thể tiêu diệt nhân loại. Cá nhân tôi nghĩ khả năng này đạt hơn 10% trong thập kỷ tới".

Về phần mình, theo hãng thông tấn Anadolu của Thổ Nhĩ Kỳ ngày 12/9, nhà nghiên cứu an toàn AI Paul Christiano, người gần đây được bổ nhiệm vào hội đồng quản trị của OpenAI Foundation, cảnh báo rằng “phần lớn mọi người sẽ chết” nếu không có các biện pháp bảo vệ mạnh mẽ hơn.

Đây là những dự báo gây tranh cãi và không nên được hiểu như những xác suất đã được khoa học xác lập, nhưng việc chúng xuất phát từ các chuyên gia trực tiếp nghiên cứu hệ thống AI tiên tiến cho thấy khoảng cách giữa tốc độ phát triển năng lực và khả năng kiểm soát đang trở thành vấn đề nghiêm túc.

Từ chatbot đến những “tác nhân” có khả năng tự hành động

Rủi ro trở nên trực diện hơn khi AI chuyển từ công cụ chủ yếu phản hồi yêu cầu của con người sang các “tác nhân” có khả năng tự suy luận, lập kế hoạch, sử dụng công cụ và thực hiện chuỗi nhiệm vụ trong thời gian dài với mức độ giám sát ngày càng thấp.

Các thử nghiệm được giới nghiên cứu đề cập đã ghi nhận những biểu hiện như lừa dối, lập kế hoạch che giấu hành động, tìm cách tránh bị tắt và “gian lận phần thưởng”, tức hệ thống tìm ra cách đạt mục tiêu theo hướng người thiết kế không mong muốn.

Đặc biệt, trong một thử nghiệm đối với mô hình chưa được OpenAI phát hành, hơn 1.000 tác nhân AI được cho là đã phối hợp để gian lận trong một bài kiểm tra an ninh mạng liên quan tới Hugging Face.

Chúng sử dụng bảng tin để liên lạc, phân chia công việc và can thiệp vào dữ liệu nhằm che giấu hành động.

Nhà khoa học Yoshua Bengio, một trong những người tiên phong của nghiên cứu AI hiện đại, cho rằng trường hợp này đáng chú ý bởi điều này cho thấy những rủi ro không còn chỉ mang tính lý thuyết và vấn đề không chỉ là AI có những mục tiêu riêng, mà mục tiêu nó lựa chọn lại mang tính phạm tội.

Điều đáng lo vì vậy không nhất thiết là một “siêu trí tuệ” đột nhiên quay lại chống con người, mà là những hệ thống ngày càng tự chủ được kết nối với hạ tầng thật trước khi con người có đủ công cụ để hiểu, giám sát và vô hiệu hóa hành vi ngoài dự kiến.

Những nguy cơ gần hơn đã được giới nghiên cứu chỉ ra bao gồm tự động hóa tấn công mạng, hỗ trợ phát triển tác nhân sinh học nguy hiểm, thao túng thông tin hoặc sử dụng tác nhân AI để tiến hành các chuỗi hành động trên không gian mạng với tốc độ và quy mô vượt xa khả năng của con người.

Cuộc chạy đua tạo ra một bài toán hành động tập thể

An toàn AI đang dần trở thành một bài toán hành động tập thể: mọi doanh nghiệp đều có lợi nếu toàn ngành tuân thủ tiêu chuẩn an toàn cao, nhưng từng doanh nghiệp riêng lẻ lại có động lực đi nhanh hơn đối thủ.

Theo Anadolu, OpenAI và Anthropic được thành lập với những lo ngại về việc phát triển một cách thiếu thận trọng các hệ thống AI mạnh mẽ, nhưng trong bối cảnh cạnh tranh ngày càng gia tăng, hai công ty này đã dần nới lỏng những cam kết về an toàn được đưa ra trước đây.

Rõ ràng, sức ép thương mại ngày càng lớn đang làm dấy lên tranh luận về mức độ duy trì những cam kết an toàn ban đầu.

Geoffrey Irving, người từng làm việc tại OpenAI, Google DeepMind và Viện An ninh AI của Anh, mô tả nghịch lý này bằng nhận xét: “Rất dễ gạt tương lai sang một bên bởi vì hôm nay vẫn còn công việc phải làm”.

Khả năng các doanh nghiệp tự phối hợp cũng gặp trở ngại bởi cạnh tranh thương mại, quy định chống độc quyền và sự thiếu tin tưởng giữa các lãnh đạo.

Hơn 1.200 nhân viên của OpenAI, Anthropic, Google và Meta vì vậy đã kêu gọi Chính phủ Mỹ thúc đẩy phối hợp quốc tế nhằm làm chậm cuộc chạy đua phát triển AI.

Tuy nhiên, cũng cần nhìn nhận chiều ngược lại, đố là những cảnh báo về rủi ro hiện sinh có thể mang lại lợi ích cho các doanh nghiệp lớn nếu chúng dẫn tới những quy định tuân thủ quá tốn kém khiến doanh nghiệp nhỏ khó cạnh tranh.

Quản trị AI vì thế phải đồng thời tránh hai cực đoan: buông lỏng để đổi lấy tốc độ và quản lý quá mức đến mức biến an toàn thành rào cản bảo vệ các doanh nghiệp đang thống lĩnh thị trường.

Từ cảnh báo toàn cầu đến bài toán thực hiện Nghị quyết 57 ở Việt Nam

Đối với Việt Nam, những cảnh báo này không làm giảm yêu cầu phát triển AI mà ngược lại cho thấy “làm chủ AI” theo tinh thần Nghị quyết 57 phải bao gồm cả năng lực làm chủ an toàn, đánh giá và kiểm soát AI.

Nghị quyết 57-NQ/TW ngày 22/12/2024 xác định trí tuệ nhân tạo là một trong những công nghệ chiến lược cần từng bước làm chủ; đặt mục tiêu đến năm 2030 Việt Nam thuộc nhóm ba nước dẫn đầu Đông Nam Á về nghiên cứu và phát triển AI.

Nhưng Nghị quyết đồng thời xác định phát triển hạ tầng số phải bảo đảm nguyên tắc “hiện đại, đồng bộ, an ninh, an toàn, hiệu quả, tránh lãng phí”, và coi “bảo đảm an ninh mạng, an ninh dữ liệu, an toàn thông tin của tổ chức và cá nhân là yêu cầu xuyên suốt, không thể tách rời quá trình phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số quốc gia”.

Điều này gợi mở rằng Việt Nam không nên chỉ đo năng lực AI bằng số lượng mô hình, trung tâm dữ liệu, doanh nghiệp hay tham số tính toán, mà cần hình thành song song một năng lực quốc gia về an toàn AI.

Trước hết, các mô hình AI tiên tiến và đặc biệt là hệ thống tác nhân có khả năng tự chủ cao cần được đánh giá rủi ro trước khi triển khai trong những lĩnh vực nhạy cảm.

Các thử nghiệm nên kiểm tra không chỉ độ chính xác mà cả khả năng lừa dối, vượt quyền, tự nhân bản, chống vô hiệu hóa, tấn công mạng, khai thác lỗ hổng và hành vi ngoài mục tiêu thiết kế.

Với các hệ thống sử dụng trong quốc phòng, an ninh, tài chính, năng lượng, y tế và hạ tầng thiết yếu, cần xác định rõ những quyết định nào bắt buộc phải duy trì quyền kiểm soát cuối cùng của con người.

Quan trọng hơn, Việt Nam có thể biến chính yêu cầu an toàn thành một cấu phần của năng lực AI tự chủ.

Nghị quyết 57 yêu cầu thể chế phải “đi trước một bước”, đồng thời “cho phép doanh nghiệp “thử nghiệm công nghệ mới có sự giám sát của Nhà nước”, “chấp nhận rủi ro, đầu tư mạo hiểm và độ trễ trong nghiên cứu khoa học, phát triển công nghệ, đổi mới sáng tạo”.

Vì vậy, thay vì lựa chọn giữa “quản chặt” và “thả để phát triển”, Việt Nam có thể xây dựng các môi trường thử nghiệm có kiểm soát đối với mô hình AI tiên tiến; phát triển năng lực đánh giá độc lập; yêu cầu báo cáo sự cố nghiêm trọng; xây dựng tiêu chuẩn về quyền truy cập công cụ, dữ liệu và hạ tầng đối với tác nhân AI; đồng thời đầu tư cho nghiên cứu căn chỉnh, khả năng diễn giải, kiểm thử đối kháng và cơ chế dừng khẩn cấp.

Cuộc đua AI vì thế đặt ra một cách hiểu rộng hơn về tự chủ công nghệ: một quốc gia chỉ thực sự làm chủ AI khi không chỉ có khả năng tạo ra và ứng dụng hệ thống mạnh, mà còn có khả năng biết hệ thống đó đang làm gì, giới hạn nó được làm gì và vô hiệu hóa nó khi cần thiết.

Nghị quyết 57 mở ra cơ hội để Việt Nam rút ngắn khoảng cách công nghệ, nhưng chính tốc độ phát triển của AI thế giới cho thấy an toàn không thể là phần việc bổ sung sau khi công nghệ đã được triển khai.

Trong cuộc đua mà các doanh nghiệp toàn cầu đang chịu sức ép phải đi nhanh hơn đối thủ, lợi thế dài hạn của Việt Nam có thể không nằm ở việc chạy nhanh bằng mọi giá, mà ở khả năng đi nhanh nhưng vẫn kiểm soát được công nghệ mình đang đưa vào triển khai.