Anthropic, Fable seviyesinde çalışan yeni Opus 5.5'i kullanıma sundu

Güvenlik odaklı kontrollü ilerleme yaklaşımı

Opus 5.5’in piyasaya sürülmesi, Anthropic CEO’su Dario Amodei’nin yapay zeka yeteneklerindeki ilerlemenin güvenlik çalışmalarına zaman tanıyacak şekilde yavaşlatılması gerektiğini savunmasının ardından şirketin gerçekleştirdiği ilk model lansmanı oldu.

Amodei, bu ayın başlarında yayımladığı yazısında risklerin yalnızca önleyici yatırımlarla ele alınmasının yeterli olmayabileceğini belirterek, yetenek gelişiminin hızının da risk azaltma çalışmalarının yetişebileceği şekilde ayarlanması gerektiğini ifade etti.

Şirket, Opus 5.5’in biyoloji ve siber güvenlik alanlarındaki yeteneklerinin Mythos ile karşılaştırılabilir düzeyde olduğunu belirtti. Bu nedenle modelin yayımlanması, Fable için uygulanan güvenlik önlemlerine benzer kısıtlamalara tabi tutuldu. Söz konusu önlemler, modellerin derlenmiş programlardaki güvenlik açıklarını keşfetmek veya tanınabilir biyolojik silahlar geliştirmek gibi belirli görevlerde kullanılmasını sınırlandırıyor.

Opus 5.5’in güvenlik eğitiminin önceki modellerle genel olarak benzer olduğu aktarıldı. Model, uyum testlerinden geçirildi ve METR ile Frontier Design gibi dış kuruluşlar tarafından lansman öncesinde değerlendirildi.

Anthropic ayrıca gelecekteki modeller için daha gelişmiş eğitim ve değerlendirme sistemleri hazırladığını vurguladı. Bu çalışmalar kapsamında güvenlik ve izleme sistemlerinin iyileştirilmesi de planlanıyor.

Şirket, yapay zeka sistemlerinin yetenekleri arttıkça kamu politikalarının insanların güvendiği sistemlerin güvenliğini sağlamada daha büyük rol üstlenmesi gerektiğini belirtti. Bu kapasitenin oluşturulmasının zaman alacağını kaydeden Anthropic, gerekli altyapıyı hazırlamaya başladığını ve çalışmalarına ilişkin daha fazla ayrıntıyı ilerleyen dönemde paylaşacağını bildirdi.