Mẫu chip Trainium3. Ảnh: aboutamazon.com
Mẫu chip mới có tên gọi Trainium3. Các máy chủ được trang bị chip này hoạt động nhanh hơn gấp 4 lần và tiết kiệm năng lượng hơn so với các chip thế hệ trước của Nvidia.
Phát biểu tại sự kiện re:Invent thường niên của tập đoàn diễn ra cùng ngày, Giám đốc điều hành dịch vụ Amazon Web Services Matt Garman cho biết: “Trainium hiện đã là một mảng kinh doanh trị giá hàng tỷ USD và vẫn đang tăng trưởng rất nhanh”.
"Gã khổng lồ" công nghệ này cũng cho hay đang phát triển chip AI thế hệ mới Trainium4. Mấu chip này sẽ được thiết kế để tương thích với công nghệ mạng NVLink Fusion của Nvidia - công nghệ then chốt dùng để kết nối các chip trong các giá máy chủ AI.
Amazon là một trong số nhiều khách hàng của Nvidia đã tự phát triển chip AI riêng. Trước đó, hồi đầu tháng 11, Google cũng đã công bố dòng chip AI mới nhất TPU Ironwood thế hệ thứ 7. Google được cho là đang đàm phán để cung cấp cho công ty công nghệ Meta (META) lượng TPU trị giá hàng tỷ USD, bổ sung vào thỏa thuận trị giá hàng tỷ USD gần đây với công ty AI Anthropic.
Ngoài Google, hãng Microsoft cũng đang hướng tới việc dựa vào chip tùy chỉnh riêng thay vì của Nvidia, dù hãng này đang bị chậm trễ trong việc phát triển chip nội bộ.
Trong năm qua, Amazon đã mở rộng mạnh mẽ phần cứng AI tùy chỉnh của mình. Gần đây, tập đoàn này đã hoàn thành một dự án trung tâm dữ liệu AI khổng lồ, mang tên Project Rainier. Nhà phát triển AI và là đối thủ của OpenAI - Anthropic dự kiến sẽ sử dụng 1 triệu chip tùy chỉnh của Amazon từ dự án này và các trung tâm dữ liệu khác của tập đoàn trên vào cuối năm 2025. Lợi thế nổi bật của chip do Amazon phát triển là giá thành.
Theo giới phân tích, chip này rẻ hơn nhiều so với chip của Nvidia và các nhà phát triển AI dùng chip Amazon có thể tiết kiệm 30 - 40% chi phí.