Dữ liệu này được đưa ra trong bối cảnh ngành AI đang chuyển trọng tâm từ huấn luyện mô hình, lĩnh vực mà Nvidia đang dẫn đầu, sang việc triển khai các mô hình cho hàng triệu người dùng, một lĩnh vực đang chứng kiến sự gia tăng cạnh tranh từ các đối thủ như Advanced Micro Devices (AMD) và Cerebras.
Nvidia cho biết những cải thiện này chủ yếu đến từ khả năng tích hợp một số lượng lớn các chip vào một máy chủ duy nhất và các kết nối tốc độ cao giữa chúng, một lĩnh vực mà hãng vẫn đang dẫn đầu và duy trì lợi thế rõ rệt so với các đối thủ. Máy chủ AI mới nhất của Nvidia được trang bị 72 chip hàng đầu của hãng.
Dữ liệu mà Nvidia công bố chủ yếu tập trung vào các mô hình AI sử dụng kiến trúc Mixture-of-Experts (MoE), một phương pháp giúp tối ưu hóa hoạt động của các mô hình AI bằng cách phân chia nhiệm vụ thành các phần riêng biệt và giao chúng cho các "chuyên gia" khác nhau trong mô hình xử lý. Kiến trúc MoE đã phổ biến trong năm 2025, đặc biệt sau khi DeepSeek - một công ty AI của Trung Quốc, giới thiệu một mô hình nguồn mở hiệu suất cao, yêu cầu ít thời gian huấn luyện trên các chip của Nvidia so với các đối thủ khác.
Từ đó, các công ty lớn như OpenAI (nhà sản xuất ChatGPT), Mistral của Pháp và Moonshot AI của Trung Quốc đã bắt đầu áp dụng phương pháp MoE vào các mô hình của họ. Moonshot AI đã phát hành một mô hình nguồn mở được đánh giá cao vào tháng 7 vừa qua, sử dụng kỹ thuật này.
Mặc dù Nvidia tiếp tục duy trì lợi thế trong việc triển khai mô hình AI, các đối thủ như AMD cũng đang nỗ lực không kém trong việc phát triển các sản phẩm cạnh tranh. AMD dự kiến sẽ ra mắt một máy chủ AI tương tự vào năm tới, tích hợp nhiều chip mạnh mẽ với mục tiêu cạnh tranh trực tiếp với các máy chủ của Nvidia trong lĩnh vực inference (xử lý và triển khai mô hình).
