Google’ın ABD Savaş Bakanlığı (Pentagon) ile yaptığı yeni ve gizli bir anlaşma kapsamında şirketin yapay zeka modellerine devlet kurumları tarafından “her türlü yasal amaç” doğrultusunda erişim izni verdiğini öne sürüldü. Anlaşmanın ayrıntıları gizli tutulurken teknoloji dünyasında etik ve güvenlik tartışmaları yeniden alevlendirdi.
The Information’un haberine göre, söz konusu sözleşme Pentagon’a Google’ın yapay zeka sistemlerine geniş kapsamda kullanım hakkı tanıyor. Anlaşmanın içeriği ise kamuoyunun tam olarak istediği şekilde açıklanmış değil.
Şirket içinden anonim bir kaynağın aktardığına göre taraflar, Google teknolojilerinin yurt içi kitlesel gözetim faaliyetlerinde ya da uygun insan denetimi olmadan otonom silah sistemlerinde kullanılmaması konusunda prensipte mutabık kaldı. Buna karşılık Google’a hükümetin kullanım biçimini durdurma veya veto etme hakkı verilmediği iddia ediliyor.
Google sözcüsü, Reuters’a yaptığı açıklamada ticari yapay zeka modellerine API erişimi sağlanmasının ve bunun şirket altyapısı üzerinden yürütülmesinin ulusal güvenliği desteklemek adına sorumlu bir yaklaşım olduğunu savundu. Şirket ayrıca, yapay zekanın kitlesel gözetim veya ölümcül otonom silahlarda insan kontrolü olmadan kullanılmaması gerektiği görüşünü yineledi.
600 çalışandan açık mektup
Anlaşma iddiaları, Google içerisinde de rahatsızlık yaratmış durumda. Yaklaşık 600 Google çalışanı, CEO SUndar Pichai’ye açık mektup göndererek şirketin Pentagon ile bu tür iş birliklerinden uzak durmasını istedi.
Mektupta geliştirilen teknolojilerin insanlık dışı veya aşırı zararlı amaçlarla kullanılabileceği endişesi dile getirildi. Çalışanlar ayrıca yapay zeka sistemlerinin güç yoğunlaşmasına yol açabileceği ve hata yapma riskinin yüksek olduğunu vurguladı.
Öte yandan Google’ın bu adımıyla birlikte ABD hükümetiyle sınıflandırılmış yapay zeka anlaşmaları yapan şirketler arasına katılmış oldu. Daha önce OpenAI ve Elon Musk’ın şirketi xAI da benzer iş birlikleriyle gündeme gelmişti.
Bununla birlikte Anthropic’in hükümetin silah ve gözetim alanındaki güvenlik önlemlerini kaldırma taleplerini reddetiği, bunun ardından federal kullanım listelerinden çıkarıldığını öne sürüldü. Tüm bunlarla son gelişmeler, yapay zekanın askeri alanında kullanımında etik sınırlar, şirket sorumluluğu ve kamusal denetim konularını yeniden gündemin merkezine taşıdı.
