Dijital Manipülasyon İçeren Videolar

 

Doğrulama teknikleri başlıklı yazı serimize “yapay zeka ile üretilmiş videolar” ya da “sentetik medya” olarak nitelenen teknolojiyi de ekleyelim istedik (Alt yazı değiştirme veya farklı seslendirme ekleme gibi basit manipülasyonlar kullanarak izleyiciyi etkilemek amacıyla oluşturulan videolara değindiğimiz yazımıza da göz atabilirsiniz)…

Trollük, eğlence, insanları yanlış yönlendirmek, kişisel intikam aracı olarak kullanmak gibi amaçların yanı sıra insanların itibarsızlaştırılması, siyasî / finansal avantaj kazanmak amacıyla hareketli görüntüler üzerinde dijital müdahale gerçekleştirilebiliyor.

 

Deepfake Nedir?

“Deepfake” (“derin sahte” ya da “derin sahtecilik”), derin öğrenme ve yapay zeka tekniklerinin kullanıldığı bir yöntemle oluşturulan manipüle edilmiş videoları ifade eder. Bu teknik, bir kişinin yüzünün veya sesinin başka bir kişinin yüzüne veya sesine uygulanarak, orijinal videonun içeriği değiştirilir. Deepfake’ler genellikle hedef kişinin orijinal videoları kullanılarak oluşturulur ve hedef kişinin ifadeleri, mimikleri ve sesi gerçekçi bir şekilde taklit edilir.

Deepfake teknolojisi, derin öğrenme algoritmaları kullanarak büyük miktarda veriyi analiz eder ve hedef kişinin yüzünü ve hareketlerini doğru bir şekilde taklit etmek için bu veriden örüntüler çıkarır. Örneğin, bir aktörün yüzü bir politikacının yüzüyle değiştirilerek, politikacının konuştuğu gibi görünmesi sağlanabilir. Bunun yanı sıra, deepfake’lerde bir kişinin sesi de değiştirilebilir, böylece orijinal videodaki kişinin sesiyle başka bir kişinin konuşuyormuş gibi duyulabilir.

Deepfake’lerin kullanım alanları oldukça çeşitlidir. Bazı insanlar deepfake teknolojisini eğlence amaçlı videolar oluşturmak veya film yapımında kullanmak için kullanabilir. Bununla birlikte, deepfake’lerin potansiyel olarak zararlı kullanımları da vardır. Manipüle edilmiş videolar, sahte haberlerin yayılmasına, itibar suikastlerine veya kişisel bilgilerin kötüye kullanılmasına yol açabilir.

 

Cheapfake Nedir?

Düşük kaliteli veya ucuz bir sahte veya taklit ürünü tanımlamak için kullanılan bir terim olan “cheapfake” (“ucuz sahte” ya da “ucuz sahtecilik”) ise uzmanlık gerektiren “deepfake” videoya göre kusurlara sahip daha düşük kaliteli manipülatif içerikler için kullanılmaktadır.

Deepfake’ler, mevcut videolardaki bireylerin yüzlerini ve seslerini değiştirmek veya değiştirmek veya inandırıcı bir şekilde gerçek görünen tamamen sentetik videolar oluşturmak için gelişmiş makine öğrenimi algoritmalarının kullanılmasını içerir. Cheapfake görüntüler de genellikle yapay zeka tarafından üretilir. Ancak cheapfake video, yüz hizalamasında sorunlar, doğal olmayan hareketler veya daha düşük görsel ve işitsel kalite gibi daha belirgin kusurlara sahip olabilir.

Cheapfake videolar, eğlence, hiciv veya kötü niyet dahil olmak üzere çeşitli amaçlarla oluşturulabilir. Yanlış bilgi yayma, kamuoyunu manipüle etme veya bireyleri bir şeyin olmadığına inandırarak aldatma ya da tam tersi olma potansiyelleri ve mevcuttur.

 

Shallowfake Nedir?

“Shallowfake” (“sığ sahte” ya da “sığ sahtecilik”), yapay zeka destekli uygulamalar yerine basit dijital düzenleme araçları kullanılarak oluşturulan düşük kaliteli veya düşük teknik özelliklere sahip sahte videolar veya görüntülerdir.

Bu terim, genellikle daha karmaşık ve inandırıcı deepfake tekniklerinden daha düşük kalitede oluşturulan içerikleri tanımlamak için kullanılır.

Shallowfake , konuyu yanıltıcı bir şekilde tasvir etmek için kasıtlı olarak yavaşlatmak veya hızlandırmak gibi basit düzenleme araçlarıyla oynanmış veya bağlam dışında sunulan videolar, ses kayıtları veya bir konuşmanın bazı değiştirilmemiş kliplerini seçerek bir araya getirmek, metnin tonunu kaldırmak veya yumuşatmak veya bir videonun başlangıç ve bitiş zamanlarını değiştirerek bağlam eklemekten oluşabilir (Vincenzo Ciancaglini, Craig Gibson, David Sancho (2020). “Malicious Uses and Abuses of Artificial Intelligence”. Trend Micro Research. Sf: 55).

Örneğin, bir kişinin yüzü bir başkasının yüzüyle değiştirilerek orijinal videonun içeriği değiştirilir. Seslendirme içinse, bir kişinin sesi alınır ve başka bir videoya veya kayda yerleştirilir.

Shallowfake’ler genellikle daha az zaman, çaba ve teknik beceri gerektirdiği için derinfake’lerden daha düşük kalitede olurlar. Bununla birlikte, bazı durumlarda hala gerçeklik algısını yanıltabilirler ve manipüle edilmiş içeriğin yayılması, yanıltıcı bilgilerin veya sahte haberlerin yayılmasına yol açabilir.

 

Deepfake – Shallowfake Farkı

“Deepfake” daha karmaşık, yüksek kaliteli ve gerçekçi sahte videoları ifade ederken, “shallowfake” daha basit, düşük kaliteli ve inandırıcılığı daha düşük sahte videoları ifade eder.

Deepfake ve shallowfake arasındaki farklar şöyle sıralanabilir:

  • Teknik Karmaşıklık: Deepfake, derin öğrenme ve yapay zeka algoritmalarıyla karmaşık bir şekilde oluşturulan yüksek kaliteli sahte videoları ifade ederken, shallowfake daha basit manipülasyonlarla düşük kaliteli sahte videoları ifade eder. Deepfake’lerde, hedef kişinin yüzü ve hareketleri daha gerçekçi bir şekilde taklit edilirken, shallowfake’lerde bu taklitler daha az inandırıcı olabilir.
  • Veri: Deepfake görüntüler oluşturulurken makine öğrenmesi için genellikle büyük miktarda verisine ihtiyaç duyulur. Bu veriler, hedef kişinin farklı açılardan ve ifadelerle çekilmiş videolarını içerir. Shallowfake’ler için ise kullanılan verisi daha sınırlı olabilir ve genellikle hedef kişiye ait daha az sayıda görüntü veya video kullanılır.
  • Kalite: Deepfake’ler, gelişmiş algoritmalar ve derin öğrenme teknikleri kullanarak gerçekçi sonuçlar üretebilir. Bu nedenle, derinfake’ler daha yüksek kalitede ve daha inandırıcı olma eğilimindedir. Shallowfake’ler ise genellikle daha düşük kalitede ve hızlı bir şekilde oluşturulurlar, bu da onları daha kolay tespit edilebilir kılar.
  • Amaç: Deepfake’ler genellikle eğlence, sanat veya sosyal medya gibi amaçlarla oluşturulurken, shallowfake’ler genellikle düşük teknik becerilere sahip kişiler tarafından manipülatif veya yanıltıcı amaçlarla oluşturulur. Shallowfake’ler, bir kişiyi taklit ederek o kişi hakkında yanıltıcı veya sahte bilgiler yaymak veya itibarlarını zedelemek amacıyla kullanılabilir.
  • Tespit Edilebilirlik: Deepfake’ler, daha gelişmiş tekniklere ve algoritmaların kullanılmasına dayandığından, tespit edilmeleri daha zor olabilir. Shallowfake’ler, daha basit ve düşük kaliteli manipülasyonlar içerdiği için genellikle daha kolay tespit edilebilir.

 

Deepfake – Cheepfake Ayrımı

Yapay zeka teknolojileriyle manipüle edilmiş sahte içerikler 2’ye ayrılabilir:

  • Daha fazla uzmanlık ve teknolojik destek gerektiren, daha kolay anlaşılanlar -> “cheapfake”
  • Anlaşılması daha güç olanlar -> “deepfake”

Deepfake ve Cheapfake spektrumu üzerinden videolar üzerindeki dijital müdahalelerin nasıl tasnif edilebileceği hakkında fikir edinilebilir:

 

deepfake cheapfake

 

Cheapfake Örnekleri

Cheapfake videoların, konusunun uzmanı olmayan bir kişi tarafından dahi alelade bir bakışla dahi gerçeği yansıtmadığı tespit edilen videolar olarak tanımlandığını aktarmıştık.

Bazı örnekler sunalım…

 

Şimşekli havada, gökte ÖRDEK şeklinde uzaylının görüldüğü sanılan animasyon

 

 

Gökyüzünden patlıcan yağdığı andan sanılan video…

 

 

Türkiye’de görüntülenen UFO’ya ait sanılan video (Mariano Miguel tarafından Blender adlı programla 2013 yılında oluşturulan Türkiye’den olduğu iddiasıyla paylaşılan UFO videosunda görülen yer Arjantin’deki Pergamino idi)…

 

 

Ankara’dan sanılan gök gürültülü fırtınalı video

 

 

ABD’de görüldüğü sanılan el şeklindeki bulut videosu

 

 

Meteor yağmuruna ait sanılan video

 

 

Görünmez pelerin videoları

 

 

Çığ düşüş anına ait sanılan video

 

 

Lübnan’ın başkenti Beyrut’ta limanda tutulan 2 bin 750 ton amonyum nitratın patlaması sonucu oluşan yıkıma bir füze saldırısının yol açtığı iddiasıyla paylaşılan video

 

 

Deepfake Örnekleri ve Tespit Yöntemleri

 

Gayet gerçekçi gözüken ve deneyimsiz / eğitimsiz zihinler ile gözlerin algılaması gayet güç olan videoların deepfake olarak nitelendiğine değinmiştik.

 

 

 

Ünlü Fransız futbolcu Kylian Mbappé’nin öğretmeni tarafından azarlandığı ve kulağının çekildiği sanılan (deepfake) video, parodi amacıyla yapay zekâ desteğiyle hazırlanmıştı.

 

 

Bu tip “derin sahte” videolar, bir kişinin farklı görüntülerinin yüklendiği bir bilgisayar algoritmasının bu görseller üzerinden yeni görüntüler oluşturması sağlanarak oluşturulmaktadır. Elbette, ilgili kişinin yazılımla taklit edilen sesini de ekleyerek…

 

 

Deepfake ve Cheapfake Videolar Nasıl Tespit Edilebilir?

Dijital manipülasyon teknolojilerinin ilerlemesiyle birlikte, sahte görüntülerin hazırlanması giderek kolaylaştı.

Yapay zeka teknikleri ve derin öğrenme algoritmaları kullanılarak deepfake ve cheapfake videolarla yapılan / yapılabilecek manipülasyonlar önemli bir tehlike olarak karşımıza çıkıyor. Bu tip sahte videoların yükselişi, yanlış bilgi sorununun yanı sıra mahremiyete yönelik endişeleri de artırıyor.

Gerçek ve manipüle edilmiş içerik arasında ayrım konusunda düşük medya okuryazarlığına ve sınırlı eleştirel düşünme becerisine sahip kitlelerin bu gibi içerikleri gerçek sandığı görülüyor.

Bu nedenle, deepfake teknolojisi üzerinde çalışan araştırmacılar ve teknoloji şirketleri, bu tip içerikleri tespit etmek için yöntemler geliştirmeye çalışmaktadır.

 

Videoların dijital müdahale içerip içermediğini anlamak için atılabilecek bazı adımlar şu şekilde sıralanabilir:

  • Görüntüyü durdurarak detaylıca inceleme yapmak, belirli karelerin piksellerine odaklanmak
  • Videodaki kişinin göz kırpma sıklığının normal bir insanınkiyle karşılaştırmak
  • Videodaki kişinin gözünün, burnunun istikametinin yüzün geri kalanı ile karşılaştırmak
  • Birbirine yakın konumdaki iki gözün irisinin üzerindeki yansımanın benzerlik arz edip etmediğini incelemek
  • Gölge yönü analizi
  • Geliştirilen yazılımlardan istifade etmek

 

Deepfake video sentez algoritmalarının oluşturduğu yeni görüntülerin konum, ışık ve çevredeki cisimlerle olan mesafeyi aynı şekilde koruyamaması ile birlikte dijital müdahale içeren videolar üzerinde bazı izler tespit edilebiliyor. Bu amaca matuf bazı yazılımlar geliştirilmiş vaziyette… DeepFake-o-meter, Deepware AI ve Sensity AI bunlardan bazıları…

Örneğin, Askeri darbe yaşanan Myanmar’da, hapisteki Başbakan ile ilgili “suçunu itiraf etti” iddiasıyla yayınlanan videonun gerçeği yansıtmayan bir deepfake video olduğu Deepware Scanner tarafından tespit edilmişti.

 

deepware inceleme

 

Microsoft, deepfake olarak adlandırılan üzerinde dijital oynama yapılmış videoları tespit edebilecek Microsoft Video Authenticator adlı bir yazılım hazırladığını duyurmuştu.

 

Yapay Zeka Tarafından Oluşturulan Profil Resimleri Nasıl Ayırt Edilir?

 

Deepfake videoların nasıl tespit edilebileceği hakkında teknik çalışmalar sürdürülüyor.

Ancak, bu tür teknik inceleme uygulamalarının süzgecinden kaçmayı başarabilen deepfake videolar da mevcut.

Bazı örnekler sunalım…

 

“Bosstown Dynamics” adıyla VFX desteğiyle oluşturulan video geçmişte yapay zekâ ve robotik tasarım şirketi “Boston Dynamics”e ait sanılarak paylaşılmıştı.

 

boston dynamics ertan özyiğit
Ertan Özyiğit’in VFX içeren videoyu gerçek sandığı paylaşımı

 

 

Kanye West’in ardından Tom Cruise’un da ABD başkanlığı için adaylığını koyduğunu duyurduğu sanılan video, Miles Fisher adlı ABD’li oyuncu tarafından hazırlanan bir (“deepfake”) parodi kayıttı.

 

 

Miles Fisher’ın Youtube kanalında bahse konu videonun “deepfake” olduğu notu düşülmüştü.

 

tom cruise abd başkan adayı

 

Tom Cruise üzerinden bu deepfake uygulaması yönteminin açıklandığı örnek kayıta göz atalım:

 

 

Bu videoların dijital müdahale içerdiği tespit edilebilmişti. Son günlerde “Tom Cruise” temalı bazı videolar ise deepfake” tanımının hakkını verdi.

 

 

Tespiti bir hayli güç olan bu deepfake videoların kaynağı “deeptomcruise” adlı Tiktok profiliydi.

Videolar, Deepware ve Sensity adlı deepfake tespit platformlarının süzgecinden geçebilmişti (Öte yandan, http://counter.social adlı sosyal medya platformu bahse konu videolardaki deepfake yapıyı tespit ettiği iddia edilmişti).

 

sensity tom cruise deepfake

 

deepware tom cruise deepfake

 

Kaynağı merak edilen ve uzun süre araştırılan videoları oluşturan kişi de tahmin edilen uzman çıkmıştı.

 

tom cruise miles fisher deepfake tom cruise miles fisher deepfake miles fisher tom cruise deepfake

 

Bahse konu Tom Cruise deepfake videoları Belçikalı VFX uzmanı Chris Ume tarafından hazırlanmıştı. Tom Cruise’u da daha önceki montaj videolardaki gibi Miles Fisher canlandırmıştı.

Chris Ume, videoları nasıl oluşturduğunu yine kanalında açıklamıştı.

 

 

Facebook gibi bazı sosyal medya platformları , deepfake teknolojisiyle üretilmiş ve kullanıcıları manipüle etme amacı taşıyan fotoğraf ve videoları yasakladığını duyurmuştu. İnsanları yanlış yönlendirmek amacıyla asıl anlamından önemli ölçüde değiştirilmiş ses, fotoğraf ya da videolara yönelik tedbirleri tasarlayan Twitter, kullanıcıların görüşlerini araştırmaya başlamıştı.

 

 

Dijital müdahale içeren videolar konusunda atılabilecek en yerinde hareket, bilgi düzensizliğinin genelinde olduğu gibi farkındalık oluşturmak olacaktır.

Örneğin Arjantin’den doğrulama girişimleri, yaklaşan seçim öncesinde #deepfake teknolojisinin tehlikesine dikkat çekmek amacıyla ülkenin siyasi liderlerinin yüzlerini kullanarak TV’de yayınlanan 1 dakikalık dikkat çekici ve bilinçlendirici bir reklâm hazırlamıştı.

 

 

NVIDIA CEO’su Jensen Huang’in şirketinin gerçekleştirdiği bir ürün lansmanına evindeki mutfaktan telekonferans bağlantıyla katıldığı sanılan görüntünün tamamı CGI ile oluşturulmuştu.

 

 

Videonun oluşturulma süreci ile ilgili NVIDIA ekibi şu açıklamayı yapmıştı:

“Sanal bir Jensen oluşturmak için ekipler bir 3D model oluşturmak için tam yüz ve vücut taraması yaptı, ardından hareketlerini ve ifadelerini taklit etmesi için bir AI eğitti ve klonunu gerçekçi hale getirmek için biraz AI büyüsü uyguladı. Digital Jensen daha sonra mutfağının bir kopyasına getirildi ve Omniverse içindeki sanal güverteyi ortaya çıkarmak için yapısı bozuldu, izleyicileri şaşırttı ve açılış konuşmasının ne kadarının gerçek veya işlenmiş olduğunu sorgulamalarına neden oldu.”

 

 

Deepfake ya da cheapfake olarak adlandırılan dijital montaj içeren video kayıtlara karşı farkındalığı ve şüpheciliği artırmak elzem.

 

 

Video doğrulama ve yapay zekâ sayesinde üretilen gerçekte var olmayan resimlere değindiğimiz yazılarımıza göz atmak isteyebilirsiniz…

 

Video Doğrulama Nasıl Yapılabilir?

 

 

Yorumunuzu yazınız...