Büyük dil modellerinin yaygınlaşmasıyla birlikte internet üzerindeki spam ve bot içeriklerin sayısı da hızla artmaya başladı. Reddit, bu soruna karşı olarak yine yapay zekadan faydalanan yeni sistemini tanıttı. Platform, yeni sistem ile yapay zeka tarafından üretilen spam içerikleri tespit ederken LLM tabanlı içerik denetim sistemleri kullanacak.
Şirketin paylaştığı verilere göre Reddit, her gün yaklaşık 23 milyon spam görüntülenmesini engelliyor. Ayrıca platform, günlük ortalama 25 bin yeni spam gönderi ve yorumu kullanıcılarla buluşmadan önce tespit ederek kaldırıyor.
Sosyal medya platformları uzun yıllardır otomatik spam tespit sistemleri geliştiriyor. Ancak Reddit, yeni nesil yapay zeka destekli sistemlere kıyasla çok daha karmaşık ve koordineli spam faaliyetlerini engelleyebildiğini belirtiyor.
Reddit tarafından yapılan açıklamada “LLM’lerden yararlanarak eski sistemlerin gözünden kaçan sahte davranış kalıplarını ve yapay olarak oluşturulan abartılı içerikleri tespit ediyoruz.” ifadelerine yer verdi. Şirket, bu sistemle kullanıcıların spam içeriklere maruz kalma oranını ocak ile mart ayları arasında önceki üç aylık döneme kıyasla %20 azaltmayı başardığını öne sürüyor.
İçerik denetiminde yapay zekanın rolü büyüyor
Yapay zeka üretimi içeriklerin internet üzerindeki hacmi artarken, büyük platformlar da bu içeriklere yönelik politikalarını güncelliyor. YouTube, Meta ve Instagram, kullanıcıların yapay zeka ile oluşturulan içerikleri paylaşmasına izin verirken, bu içeriklerin uygun şekilde etiketlenmesini şart koşuyor. TikTok ise kullanıcılara, karşılarına çıkacak yapay zeka üretimi içeriklerin yoğunluğunu ayarlayabilecekleri seçenekler sunuyor.
Uzmanlara göre yapay zekanın içerik denetiminde daha etkin kullanılması, yalnızca spam içeriklerin değil; nefret söylemi, manipülatif paylaşımlar ve diğer politika ihlallerinin de daha hızlı tespit edilmesini sağlayabilir. Ancak platform güvenliği alanında çalışan araştırmacılar, yapay zekanın tek başına yeterli olmadığını ve insan moderasyonu ile birlikte kullanıldığında en etkili sonuçların elde edildiğini vurgulamaya devam ediyor.
Yapay zeka teknolojileri hem internet üzerindeki içerik üretimini hızlandırırken hem de dijital platformları yeni güvenlik çözümleri geliştirmeye zorluyor. Reddit’in yaklaşımı ise sektörün giderek yaygınlaşan stratejisini özetliyor: Yapay zekanın oluşturduğu sorunlarla yine yapay zeka yardımıyla mücadele etmek.
