Trong một bài đăng trên mạng xã hội X, ông Satya Nadella cho rằng cần bao bọc các mô hình có cơ chế hoạt động không xác định bằng những thiết kế hệ thống chặt chẽ và có quy tắc xác định rõ ràng, sự kiểm soát của con người cùng các quy trình vận hành đáng tin cậy, đồng thời thiết lập các tiêu chuẩn ngành ở những nơi mà các tiêu chuẩn hiện hành còn thiếu sót. Ông đánh giá việc coi các mô hình AI tiên tiến nhất, dù là mô hình đóng hay mô hình mở, như những rủi ro nội bộ là một cách để xây dựng hệ thống như vậy.
Những nhận định của ông Nadella được đưa ra trong bối cảnh các lãnh đạo công nghệ và giới nghiên cứu hàng đầu, bao gồm nhà đồng sáng lập tập đoàn công nghệ Microsoft Bill Gates, CEO công ty công nghệ AI Anthropic Dario Amodei, CEO công ty công nghệ OpenAI Sam Altman và CEO công ty hàng không vũ trụ SpaceX Elon Musk, liên tục đưa ra cảnh báo về việc thiếu hụt các quy trình đảm bảo an toàn AI cũng như lo ngại rằng công nghệ này đang phát triển quá nhanh.
Hồi tháng 9/2026, anh Jacob Coxon, nhà nghiên cứu 27 tuổi tại Anthropic, bất ngờ tuyên bố rời công ty, đồng thời cảnh báo về rủi ro liên quan đến AI. Anh Coxon cho rằng Anthropic và OpenAI đang "đánh cược với tính mạng của con người". Công việc của anh Coxon tại Anthropic là đào tạo mô hình mới bằng cách cho chúng tiêu thụ lượng dữ liệu khổng lồ, tức huấn luyện trước các mô hình. Anh chia sẻ không muốn tham gia vào cuộc đua giữa các công ty nhằm đạt đến trạng thái mà con người không còn kiểm soát được AI.
Ngay sau đó, nhà nghiên cứu Evan Hubinger tại Anthropic cho rằng xác suất AI xóa sổ nhân loại trong 10 năm tới là hơn 10%, đồng thời thừa nhận công ty này vẫn chưa có giải pháp rõ ràng để kiểm soát các hệ thống siêu trí tuệ trong tương lai.
Trong khi đó, Tổng thống Donald Trump nhiều lần bác bỏ các nguy cơ AI gây tuyệt chủng và thay vào đó nhấn mạnh rằng ngành công nghiệp này cần phải duy trì vị thế dẫn trước nền kinh tế lớn thứ hai thế giới. Ông Trump cũng quyết định thành lập một Lực lượng đặc nhiệm AI do Giám đốc Tình báo Quốc gia Jay Clayton lãnh đạo, nhằm hỗ trợ phát triển ngành và loại bỏ các tác nhân xấu.
Ông Satya Nadella cho rằng các hệ thống AI cần được thiết kế dựa trên "các nguyên tắc về khả năng quan sát". Theo ông Nadella, các nguyên tắc này bao gồm: sự đa dạng của mô hình; dấu vết hành động của mô hình ở dạng con người có thể đọc hiểu được, kiểm tra, thử nghiệm hệ thống liên tục, cơ chế kiểm soát và kiểm toán độc lập; kiểm soát phạm vi hoạt động, và công khai thông tin khi xảy ra sự cố.
Ông nhận định Hệ thống Siêu trí tuệ (Super Intelligence) đáng tin cậy nhất sẽ không phải là hệ thống sở hữu mô hình AI mà con người tin tưởng nhất. Đây sẽ là hệ thống cho phép con người đặt niềm tin ngay cả khi con người ít tin tưởng vào bản thân mô hình AI đó nhất.
