Amazon, kendi çipleriyle uyumlu uygulamalar geliştirilmesini sağlayan TorchNeuron’u tanıttı
Amazon, yapay zeka uygulamalarının kendi Trainium çiplerinde çalışmasını sağlayan TorchNeuron aracını tanıttı. Yeni araç, Nvidia’ya olan bağımlılığı azaltmayı hedefliyor.
Amazon Web Services (AWS), yapay zeka uygulamalarını kendi geliştirdiği Trainium çiplerine taşımayı kolaylaştıran TorchNeuron adlı yeni aracını kullanıma sundu. Geliştiricilerin mevcut kodlarını yeniden yazmadan farklı donanımlarda çalıştırmasına olanak tanıyan araç, yapay zekâ çipleri pazarında Nvidia’nın güçlü konumuna meydan okumayı hedefliyor.
TorchNeuron, yapay zeka modelleri geliştirmek, eğitmek ve çalıştırmak için yaygın olarak kullanılan açık kaynaklı PyTorch çerçevesiyle çalışıyor. Amazon, geliştiricilerin mevcut PyTorch uygulamalarını Trainium çiplerine taşımak için yalnızca bir yapılandırma değişikliği yapmasının yeterli olduğunu belirtiyor. Böylece donanım değişikliği sırasında kodun yeniden yazılması ihtiyacının ortadan kaldırılması amaçlanıyor.
Nvidia, yapay zeka donanımı pazarındaki liderliğini yalnızca grafik işlemcilerine değil, aynı zamanda geliştiricilerin bu donanımlarda yazılım çalıştırmasını kolaylaştıran CUDA ekosistemine de borçlu. Yıllar içinde yaygınlaşan bu yazılım altyapısı, yapay zekâ uygulamalarının Nvidia donanımlarına göre optimize edilmesini sağladı. Rakip donanımlara geçişte ortaya çıkan yazılım uyarlama maliyetleri de şirketlerin alternatifleri değerlendirmesini zorlaştırdı.

Amazon, TorchNeuron ile bu engeli azaltmayı ve kendi çiplerinin daha geniş bir geliştirici kitlesi tarafından benimsenmesini sağlamayı amaçlıyor. Şirket ayrıca PyTorch’un ana projesine katkıda bulunarak çerçevenin belirli donanımlara bağımlılığını azaltacak değişiklikler üzerinde çalışıyor. Bu yaklaşımın, geliştiricilere farklı donanım platformları arasında daha fazla esneklik sunması hedefleniyor.
Amazon’un hamlesi, şirketin kendi çiplerini AWS bulut altyapısıyla birlikte konumlandırma stratejisinin de bir parçası. Şirkete göre Trainium, hem model eğitimi hem de çıkarım işlemlerinde kullanılabiliyor. Böylece geliştiriciler, prototip aşamasından üretim ortamına geçerken aynı bulut ekosisteminden yararlanabiliyor.
Amazon Annapurna Labs bünyesinde yazılım teknolojilerinden sorumlu başkan yardımcısı Colin Brace, şirketin geliştiricilerin mevcut çalışma alışkanlıklarına uyum sağlayarak donanım değiştirme sürecindeki zorlukları azaltmayı amaçladığını ifade etti.
30’dan fazla şirket ve Amazon ekibi, aracın erken erişim döneminde TorchNeuron’u kullandı. Bu kullanıcılar arasında sesli yapay zeka, robotik ve dünya modelleri gibi alanlarda çalışan ekipler bulunuyor. Sesli yapay zekâ girişimi Deepgram da Trainium’a geçişin ardından, kendi kıyaslamalarında dolar başına daha fazla ses işleme kapasitesi elde ettiğini bildirdi.
Amazon, TorchNeuron’u açık kaynaklı olarak yayımlayarak geliştiricilerin araca erişimini genişletmeyi planlıyor. Şirketin bu adımı, yapay zeka altyapısında donanım seçimini kolaylaştırırken Nvidia’nın yazılım ekosistemine dayalı rekabet avantajını da sınamayı amaçlıyor.
Bununla birlikte, aracın uzun vadede ne ölçüde benimsenebileceği ve farklı uygulamalarda ne kadar maliyet avantajı sağlayacağı, geliştiricilerin gerçek kullanım deneyimleriyle netleşecek. TorchNeuron’un başarısı, yalnızca kod taşıma sürecini basitleştirmesine değil, performans ve toplam işletme maliyetleri açısından da rekabetçi sonuçlar sunmasına bağlı olacak.
Memba Gül Sarıtaş