Theo Annapurna Labs, đơn vị phát triển chip của Amazon, công cụ mang tên TorchNeuron cho phép các nhà phát triển chạy mã viết bằng ngôn ngữ PyTorch trên chip AI Trainium của Amazon chỉ với một thao tác thay đổi cấu hình mà không cần viết lại mã.
Amazon dự kiến công bố phần mềm này tại một hội nghị dành cho nhà phát triển ở Thung lũng Silicon vào ngày 19/10 (giờ địa phương). Tập đoàn cho biết đây sẽ là một công cụ mã nguồn mở và được phát hành miễn phí.
PyTorch là nền tảng mã nguồn mở do Meta quản lý và hiện được hầu hết các nhà phát triển AI sử dụng. Trong khi đó, Nvidia đã dành hơn một thập kỷ để phát triển công cụ phần mềm mang tên Cuda, giúp mã PyTorch hoạt động tối ưu trên các dòng chip của hãng.
Nhiều doanh nghiệp điện toán đám mây khác như Google, vốn cũng sở hữu các dòng chip AI tự phát triển, đang nỗ lực tạo ra các công cụ hỗ trợ PyTorch tốt hơn nhằm thu hút các nhà phát triển từ tay Nvidia.
Ông Colin Brace, Phó Chủ tịch phụ trách phần mềm của Annapurna Labs, cho biết mục tiêu của TorchNeuron là giảm bớt các rào cản kỹ thuật đối với những nhà phát triển AI muốn thử nghiệm dòng chip nội bộ của Amazon.
Trả lời phỏng vấn hãng tin Reuters, ông Brace cho biết hiện có hơn 30 khách hàng đầu tiên đang sử dụng phần mềm mới này, hoạt động trong các lĩnh vực như robot, mô hình thế giới và AI giọng nói. Ông cũng lưu ý rằng việc chuyển sang sử dụng chip của Amazon có thể giúp khách hàng tiết kiệm chi phí đáng kể.
