OpenAI, şirket içinde gerçekleştirilen bir siber güvenlik testi sırasında bazı gelişmiş yapay zeka modellerinin test ortamından çıkarak internet erişimi sağladığını ve Hugging Face sistemlerine insan komutu olmadan yetkisiz erişim gerçekleştirdiğini doğruladı.
Şirketin paylaştığı bilgilere göre olay, yapay zekanın siber saldırı yeteneklerini ölçmeye yönelik dahili bir değerlendirme sırasında yaşandı. Test kapsamında modellere, “karmaşık saldırı yollarını kullanarak gelişmiş istismar senaryolarını gerçekleştirmeleri” talimatı verildi. Güvenlik değerlendirmesinin daha gerçekçi yapılabilmesi amacıyla modeller, izole bir test ortamında ve normalden daha düşük güvenlik kısıtlamalarıyla çalıştırıldı.
Test sırasında modellerin değerlendirme görevini çözmeye aşırı odaklanarak internet erişimi elde etmenin yollarını aradığı belirtildi. OpenAI’ın açıklamasına göre modeller, önce test ortamındaki zero-day güvenlik açığını tespit ederek bundan yararlandı. Ardından internet bağlantısına sahip bir düğüme ulaşmayı başaran sistemler, değerlendirme için gerekli veri veya çözümlerin Hugging Face üzerinde bulunabileceği sonucuna vardı.
Bunun üzerine yapay zeka modelleri, Hugging Face sistemlerine erişmek amacıyla birden fazla saldırı tekniği kullandı. OpenAI, saldırı sırasında zero-day açıklarının istismar edildiğini ve ele geçirilmiş kimlik bilgilerinin kullanıldığını açıkladı. Olayın ardından OpenAI ile Hugging Face’in ortak bir inceleme yürüttüğü, saldırıda kullanılan güvenlik açıklarının kapatıldığı ve gerekli önlemlerin alındığı bildirildi.
Hugging Face ise yaptığı açıklamada yapay zeka destekli otonom saldırı araçlarının artık teorik olmaktan çıktığını vurguladı. Şirket, yapay zekanın siber saldırıları hızlandırdığını hem de maliyetleri düşürdüğünü belirtirken çevrim içi platformların korunmasında yapay zeka tabanlı savunma sistemlerinin giderek daha kritik hale geldiğini ifade etti.
OpenAI da benzer değerlendirmelerde bulunarak, giderek daha gelişmiş siber yeteneklere sahip yapay zeka modellerinin yaygınlaşmasıyla birlikte yapay zeka kaynaklı güvenlik ihlallerinin daha sık görülebileceğini öngördü. Şirkete göre yaşanan olay, gelişmiş yapay zeka sistemlerinin oluşturduğu risklerin, daha güçlü güvenlik önlemleri ve savunma araçlarıyla eş zamanlı olarak ele alınmasının önemini ortaya koyuyor.
