Anasayfa » Tüm Yazılar » Video Manipülasyonları: Deepfake & Cheapfake

Video Manipülasyonları: Deepfake & Cheapfake

malumatfurusorg
chris ume tom cruise

Dijital Manipülasyon İçeren Videolar

 

Doğrulama teknikleri başlıklı yazı serimize “yapay zeka ile üretilmiş videolar” ya da “sentetik medya” olarak nitelenen teknolojiyi de ekleyelim istedik…

Trollük, eğlence, insanları yanlış yönlendirmek, kişisel intikam aracı olarak kullanmak gibi amaçların yanı sıra insanların itibarsızlaştırılması, siyasî / finansal avantaj kazanmak amacıyla hareketli görüntüler üzerinde dijital müdahale gerçekleştirilebiliyor.

 

Deepfake – Cheepfake Ayrımı

Yapay zeka teknolojileriyle manipüle edilmiş sahte içerikler 2’ye ayrılabilir:

  • Daha fazla uzmanlık ve teknolojik destek gerektiren, daha kolay anlaşılanlar -> “cheapfake”
  • Anlaşılması daha güç olanlar -> “deepfake”

Deepfake ve Cheapfake spektrumu üzerinden videolar üzerindeki dijital müdahalelerin nasıl tasnif edilebileceği hakkında fikir edinilebilir:

 

deepfake cheapfake

 

Cheapfake Örnekleri

Cheapfake videoların, konusunun uzmanı olmayan bir kişi tarafından dahi alelade bir bakışla dahi gerçeği yansıtmadığı tespit edilen videolar olarak tanımlandığını aktarmıştık.

Bazı örnekler sunalım…

 

Şimşekli havada, gökte ÖRDEK şeklinde uzaylının görüldüğü sanılan animasyon

 

 

Gökyüzünden patlıcan yağdığı andan sanılan video…

 

 

Türkiye’de görüntülenen UFO’ya ait sanılan video (Mariano Miguel tarafından Blender adlı programla 2013 yılında oluşturulan Türkiye’den olduğu iddiasıyla paylaşılan UFO videosunda görülen yer Arjantin’deki Pergamino idi)…

 

 

Ankara’dan sanılan gök gürültülü fırtınalı video

 

 

ABD’de görüldüğü sanılan el şeklindeki bulut videosu

 

 

Meteor yağmuruna ait sanılan video

 

 

Görünmez pelerin videoları

 

 

Çığ düşüş anına ait sanılan video

 

 

Lübnan’ın başkenti Beyrut’ta limanda tutulan 2 bin 750 ton amonyum nitratın patlaması sonucu oluşan yıkıma bir füze saldırısının yol açtığı iddiasıyla paylaşılan video

 

 

Deepfake Örnekleri ve Tespit Yöntemleri

Gayet gerçekçi gözüken ve deneyimsiz / eğitimsiz zihinler ile gözlerin algılaması gayet güç olan videoların deepfake olarak nitelendiğine değinmiştik.

 

 

Bu tip “derin sahte” videolar, bir kişinin farklı görüntülerinin yüklendiği bir bilgisayar algoritmasının bu görseller üzerinden yeni görüntüler oluşturması sağlanarak oluşturulmaktadır. Elbette, ilgili kişinin yazılımla taklit edilen sesini de ekleyerek…

 

 

Videoların dijital müdahale içerip içermediğini anlamak için atılabilecek bazı adımlar şu şekilde sıralanabilir:

  • Görüntüyü durdurarak detaylıca inceleme yapmak, belirli karelerin piksellerine odaklanmak
  • Videodaki kişinin göz kırpma sıklığının normal bir insanınkiyle karşılaştırmak
  • Videodaki kişinin gözünün, burnunun istikametinin yüzün geri kalanı ile karşılaştırmak
  • Birbirine yakın konumdaki iki gözün irisinin üzerindeki yansımanın benzerlik arz edip etmediğini incelemek
  • Gölge yönü analizi
  • Geliştirilen yazılımlardan istifade etmek

Deepfake video sentez algoritmalarının oluşturduğu yeni görüntülerin konum, ışık ve çevredeki cisimlerle olan mesafeyi aynı şekilde koruyamaması ile birlikte dijital müdahale içeren videolar üzerinde bazı izler tespit edilebiliyor. Bu amaca matuf bazı yazılımlar geliştirilmiş vaziyette… DeepFake-o-meter, Deepware AI ve Sensity AI bunlardan bazıları…

Örneğin, Askeri darbe yaşanan Myanmar’da, hapisteki Başbakan ile ilgili “suçunu itiraf etti” iddiasıyla yayınlanan videonun gerçeği yansıtmayan bir deepfake video olduğu Deepware Scanner tarafından tespit edilmişti.

 

deepware inceleme

 

Microsoft, deepfake olarak adlandırılan üzerinde dijital oynama yapılmış videoları tespit edebilecek Microsoft Video Authenticator adlı bir yazılım hazırladığını duyurmuştu.

 

Yapay Zeka Tarafından Oluşturulan Profil Resimleri Nasıl Ayırt Edilir?

 

Deepfake videoların nasıl tespit edilebileceği hakkında teknik çalışmalar sürdürülüyor.

Ancak, bu tür teknik inceleme uygulamalarının süzgecinden kaçmayı başarabilen deepfake videolar da mevcut.

Bazı örnekler sunalım…

 

“Bosstown Dynamics” adıyla VFX desteğiyle oluşturulan video geçmişte yapay zekâ ve robotik tasarım şirketi “Boston Dynamics”e ait sanılarak paylaşılmıştı.

 

boston dynamics ertan özyiğit

Ertan Özyiğit’in VFX içeren videoyu gerçek sandığı paylaşımı

 

 

Kanye West’in ardından Tom Cruise’un da ABD başkanlığı için adaylığını koyduğunu duyurduğu sanılan video, Miles Fisher adlı ABD’li oyuncu tarafından hazırlanan bir (“deepfake”) parodi kayıttı.

 

 

Miles Fisher’ın Youtube kanalında bahse konu videonun “deepfake” olduğu notu düşülmüştü.

 

tom cruise abd başkan adayı

 

Tom Cruise üzerinden bu deepfake uygulaması yönteminin açıklandığı örnek kayıta göz atalım:

 

 

Bu videoların dijital müdahale içerdiği tespit edilebilmişti. Son günlerde “Tom Cruise” temalı bazı videolar ise deepfake” tanımının hakkını verdi.

 

 

Tespiti bir hayli güç olan bu deepfake videoların kaynağı “deeptomcruise” adlı Tiktok profiliydi.

Videolar, Deepware ve Sensity adlı deepfake tespit platformlarının süzgecinden geçebilmişti (Öte yandan, http://counter.social adlı sosyal medya platformu bahse konu videolardaki deepfake yapıyı tespit ettiği iddia edilmişti).

 

sensity tom cruise deepfake

 

deepware tom cruise deepfake

 

Kaynağı merak edilen ve uzun süre araştırılan videoları oluşturan kişi de tahmin edilen uzman çıkmıştı.

 

tom cruise miles fisher deepfake tom cruise miles fisher deepfake miles fisher tom cruise deepfake

 

Bahse konu Tom Cruise deepfake videoları Belçikalı VFX uzmanı Chris Ume tarafından hazırlanmıştı. Tom Cruise’u da daha önceki montaj videolardaki gibi Miles Fisher canlandırmıştı.

Chris Ume, videoları nasıl oluşturduğunu yine kanalında açıklamıştı.

 

 

Facebook gibi bazı sosyal medya platformları , deepfake teknolojisiyle üretilmiş ve kullanıcıları manipüle etme amacı taşıyan fotoğraf ve videoları yasakladığını duyurmuştu. İnsanları yanlış yönlendirmek amacıyla asıl anlamından önemli ölçüde değiştirilmiş ses, fotoğraf ya da videolara yönelik tedbirleri tasarlayan Twitter, kullanıcıların görüşlerini araştırmaya başlamıştı.

 

 

Dijital müdahale içeren videolar konusunda atılabilecek en yerinde hareket, bilgi düzensizliğinin genelinde olduğu gibi farkındalık oluşturmak olacaktır.

Örneğin Arjantin’den doğrulama girişimleri, yaklaşan seçim öncesinde #deepfake teknolojisinin tehlikesine dikkat çekmek amacıyla ülkenin siyasi liderlerinin yüzlerini kullanarak TV’de yayınlanan 1 dakikalık dikkat çekici ve bilinçlendirici bir reklâm hazırlamıştı.

 

 

NVIDIA CEO’su Jensen Huang’in şirketinin gerçekleştirdiği bir ürün lansmanına evindeki mutfaktan telekonferans bağlantıyla katıldığı sanılan görüntünün tamamı CGI ile oluşturulmuştu.

 

 

Videonun oluşturulma süreci ile ilgili NVIDIA ekibi şu açıklamayı yapmıştı:

“Sanal bir Jensen oluşturmak için ekipler bir 3D model oluşturmak için tam yüz ve vücut taraması yaptı, ardından hareketlerini ve ifadelerini taklit etmesi için bir AI eğitti ve klonunu gerçekçi hale getirmek için biraz AI büyüsü uyguladı. Digital Jensen daha sonra mutfağının bir kopyasına getirildi ve Omniverse içindeki sanal güverteyi ortaya çıkarmak için yapısı bozuldu, izleyicileri şaşırttı ve açılış konuşmasının ne kadarının gerçek veya işlenmiş olduğunu sorgulamalarına neden oldu.”

 

 

Deepfake ya da cheapfake olarak adlandırılan dijital montaj içeren video kayıtlara karşı farkındalığı ve şüpheciliği artırmak elzem.

 

 

Video doğrulama ve yapay zekâ sayesinde üretilen gerçekte var olmayan resimlere değindiğimiz yazılarımıza göz atmak isteyebilirsiniz…

 

Video Doğrulama Nasıl Yapılabilir?

 

 

Bu yazılara da göz atabilirsiniz

Yorum bırak