ChatGPT, yanlışlıkla Avustralya hükümetini hackledi

Transluce adlı araştırma kuruluşunun yöneticisi Conrad Stosz, yaşanan olayın bir yapay zeka ajanının otonom şekilde bir hükümet sistemine saldırmayı seçtiği ilk örnek olabileceğini söyledi. Transluce tarafından tespit edilen ve daha önce kamuoyuna açıklanmayan başka olaylarda da OpenAI ajanlarının gerçek dünyadaki sistemlere yönelik saldırılar gerçekleştirdiği belirtildi.

OpenAI ajanının yalnızca Avustralya'daki Medicare sistemini hedef almadığı da ortaya çıktı. 25 ve 26 Mayıs'ta New Mexico Üniversitesi'ndeki dijital bir kütüphaneye erişmeye çalışan ajan, tarihi bir tüberküloz tedavi merkezine ait fotoğraflara ulaşmaya çalıştı. İstediği verilere erişemeyince sistemdeki güvenlik açıklarını araştırdığı ve başarısız olmasının ardından üniversitenin sunucusuna çok sayıda istek gönderdiği aktarıldı.

28 Mayıs'ta ise federal kurumlardan gelen verileri görselleştiren açık kaynaklı Data USA platformu hedef alındı. Ajan, istediği veriye ulaşamayınca sitenin açıklarını araştırdı ancak bu girişimin de başarılı olmadığı belirtildi.

OpenAI, söz konusu girişimleri modelleri üzerinde yürüttüğü kapsamlı inceleme sırasında tespit ettiğini ve ajanların şirketin amaçlamadığı eylemleri gerçekleştirdiğini açıkladı. İncelemenin tamamlanmasının birkaç ay daha sürebileceği belirtiliyor.

Şirket, yapay zeka sistemlerinde beklenmeyen davranışların daha hızlı raporlanmasını sağlamak amacıyla yeni bir raporlama çerçevesi de duyurdu. OpenAI, yapay zeka sektörünün hizalama ve izleme konusunda henüz yeterli seviyeye ulaşmadığını belirterek, sistemlerin daha güvenli şekilde ölçeklendirilmesi gerektiğine dikkat çekti.