Yapay Zeka

Amazon’un açık kaynaklı karar modeli Strands Decider 2B kullanıma sunuldu

Amazon, yapay zeka agent’larının karar süreçlerini hızlandırmak için geliştirdiği açık kaynaklı Strands Decider 2B modelini kullanıma sundu.

Memba Gül Sarıtaş Memba Gül Sarıtaş
Amazon’un açık kaynaklı karar modeli Strands Decider 2B kullanıma sunuldu

Amazon Web Services (AWS), yapay zeka ajanlarının karar alma süreçlerini hızlandırmak ve maliyetleri düşürmek amacıyla geliştirdiği Strands Decider 2B modelini açık kaynak olarak kullanıma sundu. TypeSafe tarafından geliştirilen Jev modelinden ilham alan çözüm, büyük dil modellerinin aksine metin üretmek yerine önceden belirlenmiş seçenekler arasından karar vermeye odaklanıyor.

Yapay zeka ajanlarının farklı görevleri yerine getirmek üzere yaygınlaşması, her işlemde büyük dil modellerine ihtiyaç duyulup duyulmadığı sorusunu gündeme getiriyor. AWS’nin yeni modeli Strands Decider 2B, özellikle ajanların iş akışlarında yer alan sınıflandırma, yönlendirme ve bir sonraki eylemi belirleme gibi sınırlı kapsamlı görevleri üstlenmek üzere geliştirildi.

Yaklaşık 2 milyar parametreye sahip model, yerel bilgisayarlarda CPU veya GPU üzerinden çalışabilecek şekilde tasarlandı. Model, kendisine sunulan seçenekler arasından seçim yaparken kararının güvenilirliğine ilişkin bir skor da üretiyor. Böylece geliştiriciler, yapay zeka ajanlarının hangi işlemi gerçekleştireceğini belirleyen adımlarda daha hızlı ve öngörülebilir bir yapı oluşturabiliyor.

Amazon’un açık kaynaklı karar modeli Strands Decider 2B kullanıma sunuldu – görsel 1

AWS’nin Strands Labs çatısı altında yayımladığı modelin geliştirilmesinde şirketin seçkin mühendislerinden Marc Brooker rol aldı. Brooker, TypeSafe’in Jev modelini gördükten sonra deneysel çalışmalara başladı. Projenin geliştirilmesiyle ortaya çıkan Strands Decider 2B, daha sonra açık kaynak olarak paylaşıldı.

Modelin temelinde Qwen3.5-2B bulunuyor. Ancak klasik büyük dil modellerinden farklı olarak serbest metin üretmek yerine, sunulan yanıt seçeneklerini değerlendirerek en uygun seçeneği belirliyor. Bu yapı, modelin belirli görevlerde hızlı karar vermesini ve güven skorları oluşturmasını sağlıyor.

AWS’nin paylaştığı bilgilere göre Strands Decider 2B, yaygın donanımlarda yerel olarak çalışabiliyor. Nvidia RTX 3090 üzerinde yapılan ölçümlerde modelin medyan karar gecikmesi yaklaşık 115 milisaniye olarak kaydedildi. M3 işlemcili MacBook üzerinde ise küçük görevlerde yaklaşık 153 milisaniyelik medyan gecikme bildirildi.

Amazon’un açık kaynaklı karar modeli Strands Decider 2B kullanıma sunuldu – görsel 2

Model; araç seçimi, farklı modellere istek yönlendirme, güvenlik kuralları, bağlam yönetimi ve sınıflandırma gibi alanlarda kullanılabiliyor. Örneğin bir yapay zeka ajanının hava durumu aracını çağırmadan önce gerekli konum bilgisinin kullanıcı tarafından verilip verilmediğini kontrol etmesi mümkün. Böylece sistem, eksik bilgileri tahmin etmek yerine kullanıcıdan açıklama isteyebiliyor.

Bununla birlikte Strands Decider 2B, karmaşık akıl yürütme, kod yazma, sohbet etme veya uzun belgeleri özetleme gibi görevlerde büyük dil modellerinin yerini almak üzere tasarlanmadı. Daha sınırlı karar görevlerine odaklanan model, farklı yapay zeka sistemleriyle birlikte kullanılabilecek bir bileşen olarak konumlanıyor.

Açık kaynak yaklaşımı, geliştiricilerin modelin koduna, ağırlıklarına, eğitim verilerine ve eğitim betiklerine erişmesine olanak tanıyor. AWS, bu sınıftaki küçük karar modellerinin özellikle çok sayıda işlem gerçekleştiren yapay zeka ajanlarında gecikme ve maliyetleri azaltabilecek yeni kullanım alanları oluşturmasını hedefliyor.

Paylaş

İlgili Haberler

Tümünü Gör