Những cảnh báo của các nhà nghiên cứu tại công ty phát triển trí tuệ nhân tạo (AI) Anthropic của Mỹ về nguy cơ các mô hình ngày càng mạnh mẽ có thể vượt khỏi tầm kiểm soát của con người, thậm chí dẫn đến nguy cơ tuyệt chủng của nhân loại, đang thu hút sự chú ý tại Trung Quốc. Các nhà hoạch định chính sách nước này cũng đã bắt đầu xây dựng những khuôn khổ và biện pháp nhằm ứng phó với các rủi ro tương tự.
Mỹ và Trung Quốc hiện là hai động lực chính thúc đẩy sự phát triển các công nghệ AI tiên tiến và việc ứng dụng công nghệ này trên toàn cầu. Trong bối cảnh hai nước ngày càng bất đồng về chính sách AI và thực tiễn ngành của nhau, những vấn đề này dự kiến sẽ là trọng tâm trong các cuộc đàm phán song phương diễn ra vào cuối tháng 9.
Bất chấp cuộc đua phát triển các hệ thống AI ngày càng mạnh mẽ, những khuôn khổ pháp lý và tuyên bố của giới chức Trung Quốc cho thấy Bắc Kinh coi nguy cơ AI tiên tiến vượt khỏi khả năng giám sát hiệu quả của con người là vấn đề nghiêm trọng, cần được chuẩn bị để ứng phó.
Nhận diện nguy cơ từ các mô hình AI tiên tiến
Ngày 13/9, Bộ trưởng Bộ An ninh Quốc gia Trung Quốc Trần Nhất Tân viết trên trang thông tin của một cơ quan ngôn luận của chính phủ Trung Quốc rằng các mô hình tiên tiến của Mỹ như Mythos của Anthropic và GPT-5.5-Cyber của OpenAI có thể gây ra những rủi ro nghiêm trọng đối với cơ sở hạ tầng thông tin trọng yếu của Trung Quốc. Ông kêu gọi tăng cường toàn diện các biện pháp bảo đảm an ninh AI.
Anthropic và OpenAI chưa đưa ra phản hồi ngay lập tức trước yêu cầu bình luận của hãng tin Reuters.
Các nhà phát triển AI Trung Quốc thời gian qua thúc đẩy sử dụng các mô hình có trọng số mở, một phần vì các đội ngũ an ninh mạng có thể kiểm tra, chỉnh sửa và triển khai những mô hình này cho hoạt động phòng thủ.
Nền tảng lưu trữ mô hình Hugging Face cho biết đã sử dụng GLM-5.2, một mô hình có trọng số mở do công ty Z.AI của Trung Quốc phát triển, để phân tích một vụ xâm nhập xảy ra vào tháng 7 liên quan đến các tác nhân AI “thoát kiểm soát” của OpenAI. Quyết định này được đưa ra sau khi các mô hình của Mỹ, vốn bị hạn chế chặt chẽ hơn, tỏ ra kém hiệu quả trong công tác điều tra kỹ thuật số.
Tuy nhiên, các chuyên gia cũng cảnh báo về những rủi ro tiềm ẩn từ các mô hình có trọng số mở, do chúng có thể bị chỉnh sửa và phân phối lại mà hầu như không chịu sự giám sát.
Tháng 8 vừa qua, mô hình Kimi K3 của công ty Moonshot đã vượt qua môi trường thử nghiệm (sandbox) của Viện An toàn AI Vương quốc Anh. Sự việc cho thấy các mô hình AI của Trung Quốc, cũng như các mô hình của Mỹ, có thể né tránh những biện pháp kiểm soát được thiết kế để hạn chế quyền truy cập và hành động của chúng.
Từ cảnh báo đến xây dựng khuôn khổ an toàn AI
Trung Quốc đã đưa kịch bản cụ thể về nguy cơ AI mất kiểm soát vào khuôn khổ an toàn AI lần đầu tiên vào tháng 9/2024, dưới sự chỉ đạo của Cơ quan Quản trị Không gian mạng Trung Quốc (CAC).
Tài liệu này nêu rõ không thể loại trừ khả năng AI trong tương lai có thể tự động thu thập các nguồn lực bên ngoài, tự sao chép, phát triển nhận thức và tìm kiếm quyền lực bên ngoài, từ đó tạo ra nguy cơ cạnh tranh quyền kiểm soát với con người.
CAC công bố phiên bản mở rộng vào tháng 9/2025, trong đó làm rõ hơn kịch bản này. Theo đó, AI có thể trải qua một bước “nhảy vọt” đột ngột và lớn bất ngờ về trí tuệ trước khi tiến hành thu thập nguồn lực, tự sao chép và tìm kiếm quyền lực. Tài liệu cũng bổ sung nguyên tắc quản trị “ứng dụng đáng tin cậy, ngăn ngừa mất kiểm soát”.
Một cách giải thích chuyên môn được công bố sau đó trên trang web của CAC cho biết nguyên tắc này nhằm ngăn ngừa những rủi ro mất kiểm soát có thể đe dọa sự sinh tồn và phát triển của nhân loại, đồng thời đề cập đến kịch bản “AI vượt khỏi tầm kiểm soát”.
Mối lo ngại này sau đó xuất hiện trong các thông điệp chính trị cấp cao của Trung Quốc. Tại Hội nghị Trí tuệ Nhân tạo Thế giới diễn ra ở Thượng Hải tháng 7, Chủ tịch Trung Quốc Tập Cận Bình cho rằng các cơ quan chức năng cần đặc biệt chú trọng cả những rủi ro nội tại và rủi ro phát sinh từ AI, đồng thời khẳng định AI cần “luôn nằm dưới sự kiểm soát của con người”.
Tại một cuộc họp của Liên hợp quốc (LHQ) tháng 8, quan chức cấp cao phụ trách các vấn đề AI tại Bộ Ngoại giao Trung Quốc Tôn Hiểu Ba cho biết Trung Quốc đang đẩy nhanh nghiên cứu nhằm xây dựng khung pháp lý toàn diện hơn về AI.
Đến tháng 9, Phó Đại diện thường trực của Trung Quốc tại LHQ Tôn Lỗi kêu gọi các chính phủ thận trọng khi tiếp cận công nghệ AI trong lĩnh vực quân sự, nhằm tránh những tính toán sai lầm về mặt chiến lược cũng như nguy cơ chạy đua vũ trang.
Siết quản lý các tác nhân AI
Trung Quốc cũng đang chuyển các nguyên tắc trên thành những quy định cụ thể đối với các tác nhân AI, những hệ thống có mức độ tự chủ cao hơn và có khả năng thực hiện các tác vụ phức tạp hơn so với chatbot thông thường.
Tháng 5, CAC ban hành các hướng dẫn chung dành riêng cho những hệ thống này. Theo đó, các nhà phát triển phải nâng cao năng lực phát hiện, can thiệp, ngăn chặn và khắc phục những hành vi không phù hợp của tác nhân AI.
Văn bản xác định một số rủi ro bảo mật, gồm đầu độc dữ liệu, thao túng thuật toán, lỗ hổng hệ thống và tình trạng “mất quyền kiểm soát trong quá trình vận hành”. Các hướng dẫn cũng quy định người dùng phải giữ quyền quyết định cuối cùng đối với những quyết định mang tính tự chủ của tác nhân AI.
Trung Quốc chưa đề xuất bố trí các giám sát viên độc lập ngay trong nội bộ các công ty AI, mô hình từng được Anthropic ủng hộ. Tuy nhiên, các tiêu chuẩn của nước này cho phép nhà phát triển thuê bên thứ ba thực hiện đánh giá an toàn, đồng thời tính đến khả năng các tổ chức đánh giá bên ngoài và các nhà nghiên cứu bảo mật tiến hành kiểm thử, kiểm định các mô hình mã nguồn mở.
Những động thái trên cho thấy cùng với việc thúc đẩy phát triển AI, Trung Quốc đang từng bước xây dựng cơ chế nhằm kiểm soát các rủi ro có thể phát sinh khi những hệ thống này ngày càng mạnh và tự chủ hơn, trong đó nhấn mạnh nguyên tắc AI phải nằm dưới sự kiểm soát của con người.
