OpenAI, yapay zeka sistemlerinde giderek daha fazla önem kazanan güvenlik tehditlerine karşı yeni bir adım attı. Şirket, kötü niyetli talimatların web sayfalarını veya çeşitli içerik kaynakları içerisine gizlenerek sohbet botlarını etkilemeyi amaçladığı prompt injection saldırılarına karşı geliştirdiği Lockdown Mode adlı yeni özelliğini duyurdu.
OpenAI’a göre Lockdown Mode, hassas verilerle çalışan kullanıcılar ve kurumlar için ek güvenlik katmanı sunmayı hedefliyor. Özellik etkinleştirildiğinde ChatGPT’nin bazı gelişmiş yetenekleri devre dışı kalarak veri sızıntısı riskinin azaltılması amaçlanıyor.
Bu kapsamda canlı web taraması, internet üzerindeki görsellerin alınması ve görüntülenmesi, Deep Research özelliği ile Agent Mode kullanımı kapatılıyor. Kullanıcılar, yine de yapay zeka aracılığıyla görsel üretmeye devam edebilecek.
Şirket, yeni modun tüm riskleri tamamen ortadan kaldırmadığının da altını çiziyor. OpenAI’ın açıklamasına göre Lockdown Mode aktif olsa bile sistemler prompt injection saldırılarına karşı tamamen bağışıklı hale gelmiyor. Örneğin kötü niyetli talimatlar, önbelleğe alınmış web içeriklerinde veya kullanıcı tarafından yüklenen dosyalarda bulunabilir ve bu durum yanıtların doğruluğunu veya modelin davranışlarını etkileyebilir.
Bununla birlikte OpenAI, yeni özelliğin temel amacının hassas bilgilerin istem dışı paylaşılma ihtimalini azaltmak olduğunu belirtiyor. Şirket, özellikle kurumsal kullanıcıların ve kritik veriler üzerinde çalışan ekiplerin bu tür saldırılara karşı daha güçlü korumaya ihtiyaç duyduğunu vurguluyor.
OpenAI tarafından yapılan açıklamada, “Lockdown Mode herkes için tasarlanmış bir özellik değil. Hassas verilerle çalışan kişi ve kurumlar için, prompt injection kaynaklı veri sızdırma risklerine karşı daha sıkı koruma sağlamak amacıyla geliştirildi.” ifadelerine yer verildi.
Yeni güvenlik özelliğinin dağıtım süreci de başlamış durumda. OpenAI, Lockdown Mode’un şu anda kendi kendine hizmet veren ChatGPT Business hesapları ile uygun kriterleri karşılayan bireysel kullanıcılara kademeli olarak sunulduğunu açıkladı.
