Yapay zekayı, yapay zeka denetleyecek

GPTZero, metnin yapay zeka tarafından üretilip üretilmediğini belirlemek için metnin ne kadar karmaşık ve çeşitli olduğunun iki ölçüsü olan “şaşkınlık” ve “patlama” perspektiflerinden analiz ediyor.
yapay-zekayi-yapay-zeka-denetleyecek

Yapay zeka çağına hızla girerken bu teknolojinin hayatımızın her alanında kullanımı maalesef bazı sorunlara yol açmaya başladı. Özellikle akademik alanda, ChatGPT gibi araçların tezlerde, ödevlerde ve sınavlarda kullanılmasının intihal sorunlarına yol açtığı iddia ediliyor. Birçok akademisyen ChatGPT ile içerik kontrolü yaptıklarını ancak bunun kendilerine ciddi anlamda vakit kaybettirdiğini söylüyor. Bu nedenle, yapay zekayı yazılı olarak tespit eden girişimler çok önemli bir hale geliyor.

GPTZero da bu amaçla geliştirilmiş araçlardan biri olarak karşımıza çıkıyor. Bir metnin yapay zeka tarafından üretilip üretilmediğini tespit etmek için tasarlanmış ve çoklu dil modelleri kullanılıyor. Bu ürünün amacı sadece akademik intihalleri tespit etmek değil, aynı zamanda haberlerde kullanılan içerikleri kontrol ederek dezenformasyonu önlemektir.

GPTZero, metnin yapay zeka tarafından üretilip üretilmediğini belirlemek için metnin ne kadar karmaşık ve çeşitli olduğunun iki ölçüsü olan “şaşkınlık” ve “patlama” perspektiflerinden analiz ediyor. Ancak, bu yaklaşımın elbette bazı kusurları var.

Nisan 2023′te Stanford Üniversitesi akademisyenleri tarafından yürütülen bir çalışmada, GPTZero gibi yapay zeka algılama araçlarının, yazılarında çeşitlilik olmaması nedeniyle, anadili İngilizce olmayanlar tarafından yazılan metinleri, genellikle yapay zeka tarafından oluşturulmuş gibi haksız bir şekilde kategorize ettiği bulundu. Örneğin kendi yazdığınız Türkçe bir metni sisteme yüklerseniz araç bunun yapay zeka tarafından üretildiğini söyleyebilir. Hatta bazen ChatGPT’ye bir metin yazıp yazmadığınızı sorduğunuzda “evet, yazdım” yanıtını alabiliyorsunuz. GPTZero’da da aynı sorun var. Ancak, bu sorunlara İngilizce metinlerde genellikle rastlanmıyor.

Yapay zekanın sağlıklı ve etik bir şekilde kullanılması için araçların geliştirilmesi büyük önem taşıyor. GPTZero gibi yapay zeka tespit araçları, özellikle akademik alanda ve haberlerde doğruluğun korunması için çok değerli olabilir.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

İlgili İçerikler