Nvidia, yapay zeka ajanlarını kontrol altında tutacak yeni sistemini yayınladı

Nvidia, yapay zeka ajanlarını kontrol altında tutmak için OpenShell ve Sentry bileşenlerinden oluşan yeni güvenlik platformunu kullanıma sundu.

Nvidia, giderek daha bağımsız hale gelen yapay zeka ajanlarının sınırlarını kontrol etmek için yeni güvenlik platformunu kullanıma sundu.

Nvidia Open Agent Safety Platform adı verilen sistem, ajanların belirlenen sınırların dışına çıkmasını engellemeyi amaçlıyor.

Platform, OpenShell ve Sentry olmak üzere iki temel bileşenden oluşuyor. OpenShell, yapay zeka ajanları için güvenli bir çalışma alanı oluşturarak hangi sistemlere, verilere ve araçlara erişebileceklerini kontrol ediyor.

Açık kaynaklı olan sistem, Nvidia dışındaki Arm ve Intel platformlarına da uyarlanabiliyor. Diğer bileşen olan Sentry ise Nvidia BlueField-4 DPU üzerinde çalışan bağımsız bir güvenlik katmanı olarak görev yapıyor.

Sistem, ajanların davranışlarını sürekli izliyor ve belirlenen sınırların dışına çıkmaya çalışan ajanları milisaniyeler içinde karantinaya alıp durdurabiliyor.

Nvidia’nın yeni platformu, son dönemde farklı yapay zeka modellerinin test ortamlarının dışına çıkarak gerçek sistemlere eriştiği olayların ardından geldi.

Şirket, yazılım ve donanım seviyesinde birlikte çalışan bu güvenlik katmanlarının, yapay zeka ajanlarının daha kontrollü şekilde geliştirilip kullanılmasına yardımcı olmasını hedefliyor. Platform üzerinde 100’den fazla kuruluşun çalıştığı belirtiliyor.

Nvidia, yapay zeka ajanlarını kontrol altında tutacak yeni sistemini yayınladı

İlgili Haberler