Deepfake, bir videoda yer alan bir kişiye ait görüntünün, makine öğrenme teknikleri kullanılarak bir başka kişinin görüntüsü ile değiştirildiği bir medya türü.
Yapay zeka yoluyla belirli bir görüntüyü ayırt edemeyecek şekilde bir başka görüntünün üzerine yerleştirmek olarak da tanımlamak mümkün. Deepfake, adını daha çok internetin karanlık tarafı olarak bilinen dark web ile duyurmuş, hatta kamuoyunca bilinen isimlerin yüzünü porno içerikli videolara yerleştirmek suretiyle ünlülerin korkulu rüyası haline gelmiş durumda.
Deepfake bu kez iki multimedya sanatçısının elinde bir sosyal deneyin aracı olarak kullanıldı. Francesca Panetta ve Halsey Burgund 2019 yılında provakatif bir fikrin peşinden gitmeye karar verdiler ve ayrı ayrı büyük ilerlemeler kaydeden deepfake video ve deepfake ses teknolojilerini bir proje kapsamında birleştirmeye karar verdiler. Amaçları teknolojinin nasıl suiistimal edilebileceğini insanlara göstermekti.
Kolay Erişim
APOLLO BAŞARISIZ OLSAYDI NIXON BU KONUŞMAYI YAPACAKTI
Deneyi hayata geçirmek için 1969’da Apollo’nun Ay’a fırlatılması gibi tarihsel önemi büyük olan bir olayı seçtiler ve buna ilişkin alternatif bir tarih yaratmak üzere yola çıktılar. Tahmin edileceği üzere fırlatmadan önce dönemin ABD Başkanı Richard Nixon’ın danışmanları başkanın yapacağı konuşmanın metnini iki farklı senaryoya göre kaleme almıştı. Biri hepimizin bildiği zafer metni, diğeri Ay’da yaşanacak olası bir felaket senaryosuna ilişkin yapılacak konuşmanın metni. Neyse ki ‘Gerçek Nixon’ bu konuşma metnini okumak zorunda kalmadı. Ancak ‘deepfake Nixon’ kaldı. Bu, Panetta ve Burgund’un deepfake yardımıyla gerçekleştirdiği sosyal deney ile mümkün oldu.
MIT’nin Sanallık Merkezi Kreatif Direktörü Panetta ve yine MIT’nin Open Documentary Lab departmanında çalışan Burgund deney için iki AI (Yapay Zeka) şirketi ile ortak oldular. Canny AI projenin deepfake video ayağı ile ilgilenirken Respeecher şirketi deepfake ses teknolojisi kısmı ile ilgilenecekti. Geriye Nixon’ın ağız hareketlerini birebir taklit edecek bir oyuncu bulmak kalmıştı.
RICHARD NIXON ARANIYOR
Panetta ve Burgund’un yaptığı ilk şey, her iki şirkete de deepfake’in gerçekçi olması için ne tür bir oyuncuya ihtiyaç duyduklarını sormak oldu. Canny AI, video diyaloglarının değiştirilmesinde uzman bir şirket ve orijinal çekimde yer alan kişinin ağzını manipüle etmek için bir oyuncunun ağız hareketlerini kullanıyor. Oyuncu, ortaya çıkan deepfake videosunda yüzü asla görünmeyecek bir kuklacı olarak hizmet ediyor ve bu yüzden görünümü, cinsiyeti, yaşı ve etnik kökeninin bir önemi bulunmuyor.
NIXON’UN KONUŞMALARINDAN YÜZLERCE SES PARÇASI TOPLANDI
Sese gelince, bu noktada oyuncunun özellikleri biraz daha önem kazanıyor. Bu projede bir sesi diğerine dönüştürme işlevini yerine getiren Respeecher şirketi, oyuncunun taklidi yapılacak kişinin aksanına benzer bir aksana sahip olmasının işleri kolaylaştırdığını belirtiyor. Yapılan görüşmelerden sonra Oyuncu Lewis D. Wheeler ile anlaşılıyor. Wheeler sesi ve yüzünü Nixon’ınki ile eşleştirmek için günlerce stüdyoda deepfake algoritması üzerinde çalışıyor. Boston’lı aktörün günleri Nixon’ın ses parçalarını dinleyip defalarca tekrar etmekle geçiyor. Yüzlerce ses parçası olduğundan bahseden Wheeler, “her biri sadece saniyeler süren birçoğu tam bir kelime bile olmayan ses parçalarıydı” diye anlatıyor.
Bu ses parçaları Nixon’ın çeşitli konuşmalarından alınmış ona ait sesler. Üzerinde çalışılan konuşma metni bir felaketten bahsedeceği için ses parçalarının büyük kısmı Nixon’ın istifa konuşmasından alınmış. Wheeler’ın işi her bir ses parçasını gerçek tonlama ve ritme uydurarak kendi sesi ile yeniden kaydetmek. Bu küçük parçalar daha sonra aktörün sesini Nixon’unki ile eşleştirmek üzere Respeecher’ın algoritmasına eklendi. Oldukça yorucu ve zahmetli bir iş olduğundan bahseden Wheeler “Aynı zamanda gerçekten ilginçti” diyor.
Ve ortaya sahte olduğu asla anlaşılmayan Nixon’a ait alternatif bir tarihi konuşma çıkıyor: “Huzurla Ay’ı keşfetmek için giden adamlar, huzur içinde yatmak üzere Ay’da kalacaklar. Bu cesur adamlar, Neil Armstrong ve Edwin Aldrin, kurtarılmaları için umut olmadığını biliyorlar. Ancak fedakarlıklarında insanlık için umut olduğunu da biliyorlar.”
Deepfake’in ‘porno’ ve insanları karalamak amaçlı kullanımı dışında daha toplumsal amaçlı kampanyalarda kullanılmasına bir başka örnek de Film Yapımcısı ve Yönetmen Zach Math tarafından hayata geçirilmiş bir seçim kampanyası. ABD’li kreatif ajans Mischief USA tarafından oy hakkına ilişkin iki reklam çekmesi için işe alınan Math, Kuzey Kore Lideri Kim Jong-un ve Rus devlet başkanı Vladimir Putin’in görüntülerini deepfake ile manipüle etti.
KUZEY KORE LİDERİ SEÇMENLERİ BİLİNÇLİ OLMAYA ÇAĞIRIYOR!
Reklam ajansı, deepfake sanatçısı John Lee’nin danışmanlığında proje kapsamında açık kaynaklı DeepFaceLab yazılımıyla yüz değiştirme yoluna gitmeyi seçti. Bu şu anlama geliyordu: Ortaya çıkan deep fake videosunda Panetta ve Burgund’unkinin aksine oyuncunun vücudu görünecekti sadece Kim Jong-un’un yüzü oyuncunun vücudu üzerine yerleştirilecekti. Dolayısıyla oyuncu ile Kuzey Kore liderinin vücut yapılarının birbirini tutması gerekiyordu. Ses de oyuncuya ait olacaktı. Liderler videoda İngilizce konuşacaktı fakat Kuzey Kore ve Rus aksanlı olmasına dikkat edildi.
Putin için cast süreci nispeten kolay oldu. Zira oyuncunun yüz ifadelerini ve ağız hareketlerini taklit etmesini sağlayacak Putin’e ait çok sayıda görüntü bulunmakta idi. Kim için ise durum farklı. Putin’de olduğu gibi Kim’e ait çok fazla görüntü bulunmamakta, olanların çoğunda da Kuzey Kore lideri gözlüklü olarak ekran karşısındaydı. Ortaya çıkan deepfake, Kim’e oldukça benzemekle birlikte yüz hareketleri daha az doğal görünüyordu. Sadece Kim’e oldukça benzeyen bir oyuncunun yüzü Kim’inki ile değiştirildi.
Ekip, Kim’in görüntüsünde deepfake teknolojisinin kopyalayamayacağı yönleri güçlendirmek için makyaj, kostüm ve post prodüksiyon çalışmalarına ağırlık verdi. Örneğin oyuncu Kim’den daha zayıftı, bu yüzden ona şişman gösterecek bir takım elbise giydirdiler.
PUTIN’DEN DEMOKRASİ VURGUSU!
Ortaya çıkan videoda Kim’in yüzü hariç her şeyinin bir başka oyuncu tarafından taklit edildiğini anlamak çok kolay değil. Ancak görüntüye oturtulan konuşma videonun fake olduğunu ele veriyor. Zira Kim seçmenlere alışılagelmedik şeyler söylüyor: “Demokrasiye yönelik en büyük tehdit dış müdahaleler ve dezenformasyon değil seçmenlerin sindirilmesi. Demokrasinin çökmesi hiç de zor değil. Bunun için tek yapmanız gereken ‘hiçbir şey’”
Sahte Putin’in dilinden de çarpıcı ifadeler dökülüyor: “Amerika, demokrasinize müdahale ettiğim için beni suçluyorsunuz, ama bunu yapmaya ihtiyacım yok. Bunu siz kendi kendinize yapıyorsunuz. Oy verme merkezleri kapatılıyor. Kime güveneceğinizi bilmiyorsunuz. Bölünmüşsünüz.”
Anlaşılacağı üzere iki video da seçmenleri bilinçlendirmeye yönelik bir kampanyanın parçası. Ancak aynı zamanda teknoloji ile nelerin yapılabileceğini göstermesi bakımından da korkutucu.
Siber Bülten abone listesine kaydolmak için formu doldurunuz
