X
 

Çözümlerimiz

Teknolojilerimiz

Referanslarımız

 

Deepfake ve Yapay Zeka Destekli Sahte Medya

Son zamanlarda, deepfake teknolojisi gündemi epey güçlü şekilde işgal ediyor. Bilgisayar görüntülerindeki en son yineleme olan derin sahtekarlıklar, yapay zeka (AI) desteği ile kaydedilen videoda bir kişinin benzerliğini başka biriyle değiştirmek üzere programlandığında oluşturulur. Günümüzde bilgisayarlar gerçekliği simüle etmede giderek daha iyi hale gelmektedir. Örneğin modern sinema, bir zamanlar yaygın olan pratik konumlar ve aksesuarlar yerine, ağırlıklı olarak bilgisayar tarafından oluşturulan setlere, manzaralara ve karakterlere dayanmakta ve çoğu zaman bu sahneler büyük ölçüde gerçeklikten ayırt edilememektedir.

Deepfake nedir ve nasıl çalışır?

“Deepfake” terimi, bir yapay zeka biçimi olan “derin öğrenme”nin altında yatan teknolojiden gelmektedir. Büyük veri kümeleri göz önüne alındığında; sorunları nasıl çözeceklerini kendilerine öğreten derin öğrenme algoritmaları, gerçekçi görünen sahte medya oluşturmak için video ve dijital içerikteki yüzleri değiştirmek için kullanılır. Deepfake oluşturmak için birkaç yöntem vardır, ancak en yaygın olanı, yüz değiştirme tekniği kullanan otomatik kodlayıcıları içeren derin sinir ağlarının kullanımına dayanır.

Otomatik kodlayıcı, kişinin çeşitli açılardan ve çevresel koşullardan nasıl göründüğünü anlamak için video klipleri incelemek ve ardından ortak özellikler bularak bu kişiyi hedef videodaki kişiyle eşleştirmekle görevli yapay zeka destekli bir derin öğrenme programıdır. Bu karışıma, derin sahtekarlıktaki herhangi bir kusuru birden fazla turda algılayan Üretken Düşman Ağları (GAN’lar) olarak bilinen başka bir makine öğrenimi türü eklenir.

Pek çok uzman, gelecekte teknoloji geliştikçe derin sahtekarlıkların çok daha karmaşık hale geleceğine ve seçim müdahalesi, siyasi gerilim ve ek suç faaliyetleriyle ilgili olarak halka daha ciddi tehditler getirebileceğine inanıyor.

Deepfake teknolojileri nasıl kullanılır?

Güvenilir ve gerçekçi görünümlü sentetik video oluşturmak için yüzleri otomatik olarak değiştirme yeteneği bazı ilginç iyi huylu uygulamalara (sinema ve oyun gibi) sahip olsa da, bu açıkça bazı sorunlu uygulamalarla tehlikeli bir teknolojidir. Bu teknolojinin video örneği siyasette de kullanıldı. Örneğin 2018’de bir Belçikalı siyasi parti, Donald Trump’ın Belçika’yı Paris iklim anlaşmasından çekilmeye çağıran bir konuşma yaptığı bir video yayınladı. Ancak Trump bu konuşmayı asla yapmadı ve bu bir derin sahtekarlıktı. Teknoloji konusunda bilgili siyasi uzmanlar, inandırıcı derecede gerçekçi deepfake’ler içeren gelecekteki bir sahte haber dalgasına hazırlanmaktadırlar.

Deepfake nasıl tespit edilir?

Söz konusu teknolojiler daha yaygın hale geldikçe, toplumun kolektif olarak derin sahte videoları tespit etmeye büyük olasılıkla uyum sağlaması gerekecektir. Çoğu zaman, siber güvenlikte olduğu gibi, yayılmasını tespit etmek ve önlemek için daha fazla derin sahte teknoloji ortaya çıkmalıdır, bu da bir kısır döngüyü tetikleyebilir ve potansiyel olarak daha fazla zarar yaratabilir. Ancak, Deepfake’leri ele veren birkaç gösterge mevcut, kısaca bahsetmek gerekirse;

  • Cilt veya saçla ilgili sorunları veya bulundukları ortamdan daha bulanık görünen yüzleri arayın. Odak doğal olmayan şekilde soft bir görünüme sahip olabilir.
  • Aydınlatma doğal görünmüyor mu? Deepfake algoritmaları, genellikle, sahte video için model olarak kullanılan kliplerin aydınlatmasını korur; bu, hedef videodaki aydınlatma ile zayıf bir eşleşmedir.
  • Ses, özellikle video sahteyse ancak orijinal ses o kadar dikkatli bir şekilde değiştirilmemişse, hedef kişinin sesisyle eşleşmeyebilir.

Deepfake’lerle verilen teknolojik mücadele

Deepfake’ler teknikler geliştikçe zamanla daha gerçekçi hale gelecek olsa da, iş onlarla mücadeleye geldiğinde tamamen savunmasız değiliz. Birkaç şirket, derin sahtekarlıkları tespit etmek için yöntemler geliştiriyor, bunlardan bazıları yeni kurulmuş durumda. Örneğin Facebook, derin sahtekarlıkları tespit etmek ve yeni teknolojilerin oluşturulmasını teşvik etmek için açık ve ortak bir girişim olan Deepfake Detection Challenge’a ev sahipliği yaptı. Yarışmada 500.000 $ ‘a kadar değişen ödüller yer aldı.

Kaynak: Insider