Yapay zeka modellerinin güçlenmesi, kötüye kullanım risklerini de beraberinde getirirken şirketler güvenlik ile müşteri gizliliği arasındaki dengeyi korumaya çalışıyor. OpenAI, bu alanda rakibi Anthropic’e karşı yeni bir yaklaşım geliştirerek Private Safety Processing adlı sistemini belirli müşterilerin kullanımına sunmaya hazırlanıyor.
Yeni sistem, yapay zeka kullanımındaki olası kötüye kullanımları otomatik olarak tespit etmeyi amaçlarken müşteri verilerini saklamıyor. OpenAI’ın mevcut Zero Data Retention (ZDR) yaklaşımını genişleten teknoloji, tek bir oturum yerine birden fazla görüşmedeki girdileri ve çıktıları uzun vadeli olarak analiz edebiliyor.
Bu özellik özellikle kötü niyetli kullanıcıların taleplerini farklı oturumlara bölerek güvenlik sistemlerinden kaçmaya çalışabileceği senaryolara odaklanıyor. Örneğin bir saldırganın zararlı yazılım geliştirmeye yönelik isteklerini tek bir görüşmede yoğunlaştırmak yerine farklı oturumlara yayması durumunda, Private Safety Processing bu etkileşimler arasında bağlantı kurarak olası kötüye kullanım işaretlerini tespit edebiliyor.
OpenAI’a göre sistem tetiklendiğinde şirkete “dar kapsamlı bir sinyal” gönderiliyor. Bu sinyal belirli bir kötüye kullanım türüne ilişkin uyarı sağlarken müşteri görüşmelerinin tamamı OpenAI çalışanlarının incelemesine açılmıyor. Şirket, gerekli gördüğü durumlarda müşteriden daha fazla bilgi talep edebiliyor. Müşteri ise isterse ilgili verileri OpenAI ile paylaşabiliyor.
OpenAI’ın yeni yaklaşımı, Anthropic’in temmuz ayında duyurduğu veri saklama politikasıyla belirgin bir karşıtlık oluşturuyor. Anthropic, “covered models” olarak tanımladığı modellerde kullanıcı verilerini ve görüşmeleri güvenlik amacıyla 30 gün boyunca saklayabiliyor. Şirket, bu süreçte olası kötüye kullanımları incelemeyi amaçlıyor.
Anthropic, gerektiğinde müşteri verilerinin insan incelemesine tabi tutulabileceğini, ancak bunun kontrollü bir erişim mekanizması üzerinden ve sınırlı sayıdaki onaylı inceleyici tarafından gerçekleştirildiğini belirtiyor. İncelemelerin tamamı da değiştirilemez bir kayıt sistemine işleniyor.
Bu farklılık, özellikle hassas verilerle çalışan kurumsal müşteriler açısından önem taşıyor. OpenAI’ın Private Safety Processing ile sunduğu model, güvenlik izleme kapasitesini artırırken müşteri verilerinin şirkette tutulmaması fikrine dayanıyor.
İki şirket arasındaki rekabetin finansal boyutu da giderek büyüyor. Anthropic’in yıllıklandırılmış gelirinin 65 milyar dolara ulaştığı bildirilirken, şirketin ileride 2 trilyon dolar değerlemeyle halka arz edilebileceği öne sürülüyor. OpenAI da halka arz hazırlıkları yürütürken, iki şirket kurumsal yapay zeka pazarında avantaj sağlamak için ürün ve güvenlik politikalarında birbirlerinden ayrışmaya çalışıyor.
