Teknolojinin gelişmesi yalnızca iyi alanlarda değil bazı negatif içeriklerde de etki gösteriyor. Bu noktada öne çıkan deepfake, seslere ve görüntülere yeni boyutlar getiriyor. Bu gibi içerikleri gerçeklerinden ayırt etmek zorlaşırken insanlarda gerçekliğe dair endişeler artıyor.
Deepfake, derin karşılığına gelen “deep” kelimesi ile sahte anlamına gelen “fake” kelimesinin birleşmesiyle oluşuyor. Bu kelime aynı zamanda deep learning (derin öğrenme) kavramıyla da yakından ilişkili.
İnternet ortamında görüntü ve seslerin bir yığın halinde yer almasıyla neredeyse her insana ulaşmak kolaylaşıyor. Bu noktada tek bir görüntü ya da ses ile yapay sinir ağları aracılığıyla medya üretmek mümkün.
Ses ve görüntü içeriklerinin sahte olması artık hayatımızın bir parçası. Bu durumda gördüğümüz herhangi bir içeriğin yüzde yüz doğru olmasını söylememiz zor. Peki gerçekten deepfake hayatımızı nasıl etkiliyor?
Deepfake nedir?
Bir kişiye ait görüntü ya da sesin alınıp farklı bağlamlar içinde yapay zeka veya makine öğrenimi ile kullanılmasına deepfake deniyor. Bu noktada, bir video ya da ses kaydının manipüle edilmesini düşünebilirsiniz.
Bu teknoloji kapsamında değiştirilen medya içeriklerinde kişinin izni ya da bilgisi genellikle olmuyor. Bu noktada ciddi hukuki sorunlar ortaya çıkıyor. Özellikle bu teknoloji doğası gereği manipüle etmek amacıyla kullanıldığı için genellikle gerçek kişilerin haberi olmaması, gelecekteki problemler hakkında fikir veriyor.
Deepfake nasıl çalışıyor?
Deepfake yapay zeka ve makine öğreniminden yararlanan bir sistemle çalıştığı için aslında insan zekası gibi hareket ettiğini düşünebilirsiniz. Örneğin bir köpek hayal ettiğinizde gözünüzün önüne bazı imgelerin gelmesi normal. Bu noktada önceki bilgilerinizi kullanırsınız ve bir köpek görseli oluşturabilirsiniz. Deepfake de buna benzer bir şekilde çalışıyor.
Bu içeriklerin üretilme sürecinde hedef kişisine ait ne kadar bilgi varsa o kadar gerçeğe yakın sonuçlar elde etmek mümkün. Bu noktada eğitilen bilgisayar, girdilere dair birçok içeriği değerlendiriyor. Bu sayede yepyeni bir gerçeklik yaratıyor.
Snap ya da Instagram filtrelerini bu noktada düşünebilirsiniz. İlk olarak sizin hareketlerinizi, yüz ifadelerinizi ve göz hareketlerinizi kaydediyor. Daha sonra bir patates, çilek ya da bir hayvan figürlü filtre yüzünüzde oluyor. Bu teknolojinin çalışma prensibi de bunun gibi.
Deepfake içerikleri nasıl yapılıyor?
Deepfake’in yapılma süreci şöyle:
- İlk olarak bir kişiye ait ses ya da görüntüler ayrıntılı olarak encoder (kodlayıcı) süzgecinden geçiriliyor. Bu noktada verilerin çokluğu önemli. Hepsi birlikte işlenerek tarama yapılıyor.
- Yapay zeka aracılığıyla bu veriler analiz ediliyor. Bu noktada hedef kişiye ait ses, mimik ya da diğer ifadeleri taklit etmek için bir model kullanılıyor.
- Yapay zeka algoritmaları aracılığıyla kişinin verileri işlenerek öğreniliyor. Bu süreç gerçek bir ses ya da görüntü için zaman alabiliyor.
- Decoder (kod çözücü) tarafından görüntü yeniden çiziliyor. Aslında bu noktada encoder gizli özellikleri çıkaran decoder ise yeniden yapılandıran tarafta. Bu durumda yeniden yapılandırdığı görüntü ya da sese istediğini uygulatabilmesi mümkün.
- Yapılma süreci sonunda elde edilen gerçeğe yakın içerik, farklı şekillerde internet ortamında yer alıyor.
Deepfake nasıl ayırt ediliyor?
Deepfake içeriklerinin tespit edilmesi, dezenformasyonla mücadele kapsamında bireylerin ve devletlerin dikkat ettiği bir alan. Bu noktada bazı yöntemler geliştiriliyor. Bu yöntemler arasında şunlar öne çıkıyor:
Videolardaki göz detayları
Sahte olduğunu düşündüğünüz medyalara daha dikkatli bakabilirsiniz. Bu noktada gözler video ortamından bağımsız hareketler içindeyse ve göz kırpmalar gerçekliğe uygun değilse video sahte olabilir.
Yüz hatlarının alakasızlığı
Görsel ve video içeriklerinde yüz hatları yüzde yüz başarılı olmayabilir. Bu teknoloji her ne kadar gelişmiş bir yöntem olsa da özellikle videolarda yüzde orantısızlık ve cilt tonunda eşitsizlik görebilirsiniz. Ayrıca vücut ve yüz tam anlamıyla örtüşmeyebilir.
Doğal ışık ve açıların farklılığı
Deepfake içeriklerde doğal ışığın geliş açısı ve gölgeler belirgin olmaz. Bu noktada hedef kişinin görüntüsünde ışığa ve açıya bağlı değişimleri tam olarak gözlemlemekte zorlanabilirsiniz.
Saçların alakasız hareket etmesi
Özellikle deepfake videolarda saçlar alakasız olarak hareket ediyor. Bu durumda dış ortamda olan bir videoyu incelediğinizde rüzgara bağlı doğal hareketleri göremeyebilirsiniz.
Seslerde artefaktların tespiti
Deepfake ses içeriğinde kesintiler ve farklı arka plan gürültüleri olması o sesin sahte olduğunu gösteriyor. Bu noktada artefakt denilen dijital izler ses dosyalarındaki sahteciliği öne çıkarıyor.
Spektral analiz yapılması
Spektral analiz, bir devre ya da sistem içinde çeşitli parametreleri ölçüyor. Bu analiz sonucunda bilinen ve bilinmeyen sinyalleri tespit edebilirsiniz. Dolayısıyla deepfake ses kaydı olup olmadığını analiz ile anlayabilirsiniz.
Bu analiz kapsamında bireyin gerçek ses kaydı ile sahte olduğunu düşündüğünüz kaydı karşılaştırmanız mümkün. Gelişmiş yapay zeka algoritmaları ile asıl sesteki benzersiz özellikler ayırt edilerek sahteliği kanıtlayabilirsiniz.
Orijinal kaynaklarla karşılaştırma yapılması
Deepfake tespit edilme sürecinde orijinal kaynakları ele almak önemli. Bu noktada emin olmadığınız içerikler için orijinallerle karşılaştırma yapabilirsiniz.
Konuşma ve dudak hareketlerinde tutarsızlık olması
Deepfake video ve seslerde bir tutarsızlık söz konusu. Kişi konuşurken dudak hareketleri ile sesi uyumsuz olabilir. Bu durumda deepfake olduğunu düşünebilirsiniz.
Deepfake içerikleri hangi alanlarda öne çıkıyor?
Deepfake içerikleri aslında halihazırda birçok alanda öne çıkıyor. Bu içerikler bir şekilde gerçekliği tamamen ya da kısmen değiştirerek farklı medya öğeleri üretiyor. Bu noktada sıklıkla öne çıkan alanlar ise şunlar:
- Deepfake, dolandırıcılık ve finansal sahtekarlık alanında öne çıkıyor. Bu durumda kişilerin seslerini ya da videolarını kullanarak kişiler dolandırılıyor. HP Wolf Security çalışanlarından birinin iki deepfake ses ile telefon alıp 25 milyon dolar havale etmesi deepfake örneklerinden biri.
- Deepfake ile ünlülerin ya da diğer kişilerin pornografik videolarını üretmek çok yaygın. Bu videoların dolandırıcılık, sahtekarlık ve kötü amaçlar için kullanıldığı öne çıkıyor.
- Deepfake kapsamında görsel ve video içeriklerinde nitelik manipülasyonu yapılıyor. Bu noktada yüz değiştirme, yüz rötuşlama ya da ten rengi değiştirme gibi yüzün yönlerinde değişimler olabiliyor.
- Bu teknoloji ile film ve dizi sektöründe karşılaşmak mümkün. Star Wars filmlerinden birinde Peter Cushing ve Carrie Fisher’ın 1977 yapımı orijinal filmde göründükleri halleri yer alıyor.
- Deepfake içerikler ile ülkedeki siyasi, dini ve diğer alanlarda halkı kışkırtmak, kandırmak ve seçim sonuçlarını etkilemeye çalışmak yaygınlaşıyor.
- Deepfake aynı zamanda eğitim alanında da yaygınlaşıyor. Özellikle tıp öğrencilerinin gerçeğe yakın simülasyonlara katılması ya da dil öğrenenlerin gerçek konuşmalar deneyimlemesi mümkün. Ayrıca tarihi olayları canlandırabilen bu uygulama, geleneksel eğitim anlayışını değiştirebilir.
Deepfake hayatımızı nasıl etkiliyor?
Deepfake hayatın her alanında etki etmeye devam ediyor. Bu noktada insanların aklında bu teknolojinin ne gibi sonuçlar doğuracağına yönelik sorular oluşuyor.
Elbette teknoloji hızla gelişirken hukuki uygulamaların teknolojiye yetişmesi zaman alabiliyor. Ayrıca tartışmalar her geçen gün arttığı için ortak fikirler geliştirmek de güçleşiyor. Dolayısıyla bir süre sınırları net bir şekilde çizilemeyen bu teknoloji ile başbaşayız.
Deepfake uygulamaları ile her şeyi taklit etmek ve doğruluğu kanıtlanana kadar bunu sürdürmek kaçınılmaz. Bu durumda sahte bilginin doğru bilgiye göre daha fazla yayıldığı bir gerçek. Özellikle manipülatif ve öfke duygusunu tetikleyen içerikler sosyal medyada daha yoğun ilgi görüyor. Bu durum gerçek bilgiyi gölgeliyor.
Siyasilerin, ünlülerin ya da komplo kurulmak istenen diğer kişilerin, söylemediği ve eyleme geçirmediği şeyleri piyasaya sürmek mümkün. Bu durumda deepfake’e maruz kaldığınızda toplumsal baskı mekanizmaları sizin aleyhinize işliyor.
Elbette bu teknolojiden kaçmak neredeyse imkansız. Bu noktada ses ve video kayıt almanın her an mümkün olması etkili. Ayrıca doğru ya da yalan bilginin yayılması sosyal medya kanalları ile çok hızlı. Dolayısıyla deepfake’ten kaçmak yerine kabul edip nasıl fark edileceğini anlamak bireyler bazında yapılması gerekenlerden biri.
Neyse ki medya araçları da her geçen gün bu konuda daha fazla farkındalık geliştiriyor. Bazı bağımsız kurumlar bu içerikleri doğrularıyla karşılaştırıp paylaşarak asıl bilgiye erişimi kolaylaştırıyor.
