Anthropic, yapay zekanın güvenlik testleri için Accenture ile anlaştı

Anthropic, yapay zeka modellerinin güvenliğini test etmek ve değerlendirmek için Accenture ile ortaklık kurdu.

Yapay zeka şirketi Anthropic, geliştirdiği ileri seviye modellerin güvenliğini bağımsız şekilde değerlendirmek amacıyla Accenture ile iş birliği yaptığını duyurdu. Anlaşma kapsamında Accenture bünyesindeki uzmanlar, Anthropic ekipleriyle birlikte çalışarak şirketin yapay zeka modellerini değerlendirecek ve güvenlik önlemlerini test edecek.

İş birliğinin merkezinde, Accenture’ın Ocak ayında bünyesine kattığı yapay zeka şirketi Faculty bulunuyor. Faculty liderliğindeki ekip; modellerin değerlendirilmesi ve kırmızı takım testleri, hizalanma değerlendirmeleri ve güvenlik mekanizmalarının sınanması gibi çalışmalar yürütecek.

Anthropic ve Accenture, bu alandaki kapasitenin geliştirilmesi için önümüzdeki beş yıl boyunca ayrı ayrı en az 1 milyar dolar yatırım yapmayı planlıyor. Anthropic, bu yatırımın şirketin daha geniş yapay zeka güvenliği yaklaşımının bir parçası olduğunu belirtiyor.

Anthropic'in yaklaşımını geleneksel üçüncü taraf değerlendirmelerden ayıran temel nokta, uzmanların şirket dışında yalnızca son ürünleri incelemek yerine Anthropic'in içinde, çalışanlara benzer erişimle görev yapacak olması. Böylece değerlendiricilerin modellerin eğitim ve geliştirme süreçlerini takip etmesi, model tasarımına ilişkin kararları incelemesi ve çalışanlarla doğrudan iletişim kurması hedefleniyor.

Anthropic'e göre bu yapı sayesinde şirketin güvenlik taahhütlerinin uygulanıp uygulanmadığı daha yakından incelenebilecek, olası olaylar raporlanabilecek ve modellerin faydaları ile riskleri hakkında daha kapsamlı değerlendirmeler yapılabilecek.

Şirket ayrıca bu sistemin henüz gelişiminin erken aşamasında olduğunu vurguluyor. Bağımsız değerlendiricilerin hangi bilgilere erişeceği ve elde ettikleri bulguları nasıl raporlayacağı konusunda henüz ortak standartlar bulunmuyor. Anthropic, Accenture ile yapılan anlaşmanın münhasır olmadığını ve önümüzdeki haftalarda başka değerlendiricilerin de açıklanacağını belirtiyor.

Accenture ise iş birliğinde kurumsal ve kamu sektörlerinde yapay zekanın gerçek dünyadaki kullanımına ilişkin deneyimini değerlendirme süreçlerine taşıyacağını açıkladı.

Anthropic, yapay zekanın güvenlik testleri için Accenture ile anlaştı

İlgili Haberler