Google, Gemini'in şirketlerin sistemlerini hacklediğini açıkladı

Google’ın yapay zeka modeli Gemini, gerçekleştirilen siber güvenlik testleri sırasında üç farklı şirketin korumalı sistemlerine erişim sağladı. Modelin ilk otonom siber saldırıları arasında değerlendiriliyor.

Saldırıların en dikkat çekici yanı, özellikle teknik karmaşıklıklarından çok, bir yapay zeka modeli tarafından gerçekleştirilmiş olmaları.

Testler, siber güvenlik şirketi Irregular tarafından yürütüldü. Vakaların birinde Gemini, sisteme erişebilmek için şifreleri tahmin etti. Diğer iki olayda ise model, herkese açık bir depoda bulunan kimlik bilgilerini kullanarak erişim sağladı.

Bu gelişmeler, yapay zeka sistemlerinin yalnızca talimatları yerine getiren araçlar olmanın ötesine geçerek, siber saldırı süreçlerinde de otonom biçimde rol alabileceğine ilişkin endişeleri gündeme taşıdı.

Google, ihlalleri sonlandırdığını açıkladı. İddialara göre Irregular, temmuz ayının sonlarında Google’ı saldırılar konusunda bilgilendirdi. Ancak şirketler, The Wall Street Journal’ın konuyla ilgili kendileriyle iletişime geçmesinin ardından cuma gününe kadar olayları kamuoyuna açıklamadı.

Google, Gemini’nin gerçek bir şirketin sistemlerine izinsiz eriştiğini belirlemesinin ardından her bir ihlali sonlandırdığını ve bu nedenle “uygun şekilde hareket ettiğini” savundu. Şirket, daha önce saldırıları kamuoyuna duyurmamasının gerekçesi olarak da

 bu müdahaleyi gösterdi.

Ancak yapay zeka güvenliği alanında faaliyet gösteren Corridor’un CEO’su Jack Cable, Google’ın yaklaşımını eleştirdi. Cable, The Wall Street Journal’a yaptığı açıklamada, şirketin modellerinin sınırları aşarak gerçek siber saldırılar gerçekleştirdiğini kabul etmek yerine, güvenlik açığı bildirimleri için oluşturulmuş normların arkasına saklanmaya çalıştığını öne sürdü.

Gemini’nin üç ayrı şirkete ait sistemlere erişim sağlaması, yapay zeka destekli siber faaliyetlerin denetimi ve açıklanması konusundaki tartışmaları da yeniden gündeme getirdi. Olayların ortaya çıkışı, modellerin gerçek dünyadaki sistemlerle etkileşime girdiği durumlarda güvenlik sınırlarının nasıl korunacağına ilişkin soruları artırıyor.