ABD Federal Soruşturma Bürosu (FBI), kötü niyetli aktörlerin yakın zamanda etki alanlarını veya siber operasyonlarını genişletmek adına deepfake teknolojisi kullanacakları konusunda uyardı.
Kurumdan yapılan açıklamada, yabancı aktörlerin, etki kampanyalarında halihazırda deepfake veya video, ses, resim ve metin gibi manipüle edilmiş dijital içeriği kullandıkları belirtildi.
FBI uyarısında şu ifadeler yer aldı: “Yabancı aktörler şu anda etki kampanyalarında sentetik içerik (Yapay Zeka tarafından yaratılan içerik) kullanıyor ve FBI bu manipüle edilmiş içeriklerin yabancı ve siber suç aktörleri tarafından giderek artan oranda kimlik avı dolandırıcılığı ve sosyal mühendislik için kullanılacağını ön görüyor.”
Uyarı, manipüle edilmiş medya içeriklerinin artışının önüne geçilmediği takdirde komplo teorilerinin ve kötü niyetli etki kampanyalarının giderek daha yaygın hale geleceği yönündeki endişelerin dile getirildiği bir dönemde yapıldı. Milletvekilleri, son dönemde kadınları taciz etmek için sıklıkla kullanılan deepfake teknolojisini hedef alan bir dizi yasa çıkardılar. Örneğin, 2021 tarihli Ulusal Savunma Yetkilendirme Yasası, “deepfake”in arkasındaki teknoloji ve yol açtığı zararların İç Güvenlik Bakanlığı tarafından değerlendirilmesini öngörüyor.
ÇİN YANLISI KAMPANYADA YAPAY ZEKA İLE OLUŞTURULAN GÖRÜNTÜLER KULLANILDI
Federal Büro uyarısında, dezenformasyon kampanyalarında manipüle edilmiş medyanın Çince ve Rusça dillerinde kullanımını ortaya çıkaran özel sektör araştırmalarına işaret etti. Bunlardan birinde, sosyal medya analiz şirketi Graphika’nın “Spamouflage Dragon” adını verdiği Çin yanlısı bir hükümet etki kampanyasının, kampanyaya özgünlük kazandırmak için yapay zeka ile oluşturulan profil görüntülerini kullandığı belirtiliyor.
Başka bir vakada araştırmacılar, “trol çiftliği” olarak tanımlanan Rus şirketi İnternet Araştırma Ajansı’nın 2020’deki ABD seçimlerinden önce sahte profil hesapları oluşturmak için Generative Adversarial Networks (Üretken Düşman Ağları) tarafından oluşturulan görüntüleri kullandığını ortaya çıkardı. Cyberscoop’un ortaya çıkardığı bilgiye göre, FBI o dönemde Facebook’u konuyla ilgili bilgilendirdi.
Düşünce kuruluşu Atlantic Council’ın Dijital Adli Araştırma Laboratuarı, Graphika ve Facebook da yakın zamanda Trump yanlısı bir kampanyada kullanılan yapay zeka tarafından manipüle edilmiş görüntüleri ortaya çıkarmak için işbirliği yaptı.
FBI, uyarısında, kötü niyetli yabancı aktörlerle ilişkilendirilen “deepfake”lere ilişkin bir soruşturma başlatacaklarını açıkladı.
KONGRE BİNASI BASKINININ ARKASINDA DA DEEPFAKE OLABİLİR
Uyarı, federal hükümet, araştırmacılar, Amerikalılar ve sosyal medya şirketlerinin, kongre binası baskınının ardından yanlış bilgilendirme ve dezenformasyon ile yoğun bir mücadeleye girdiği bir dönemde geldi. Yakın zamanda yayınlanan araştırmaya göre, hükümete yönelik yapılan saldırı, kısmen, aşırı sağcı gruplar ve medya kuruluşları tarafından çevrimiçi olarak yayılan dezenformasyon kampanyası tarafından tetiklendi.
Baskını tetikleyen dezenformasyonun arkasındaki kişilerin bir kısmı yerli aktörler olsa da Rusya, İran ve Çin’den yabancı aktörler de ABD’deki kutuplaşmadan faydalanmak üzere haberleri kullandılar.
İsyancılar Trump’ın saldırı sırasında yapılan yenilgi konuşmasının deepfake olduğunu öne sürse de bu kampanyalarda manipüle edilmiş medyanın veya deepfake’in kullanıldığına dair net bir bilgi yok.
Yapay Zeka’da madalyonun öteki yüzü: DeepFake ve otonom silahlar başımızı ağrıtacak
FBI KULLANICILARI UYANIK OLMA NOKTASINDA UYARDI
FBI, “Şu anda, kullanıcıların içeriği kötü niyetli aktörler tarafından değiştirilen çevrimiçi bilgilerle karşılaşma olasılığı daha yüksek ” açıklamasını yaptı ve ekledi: “Ancak, teknoloji ilerlemeye devam ettikçe bu eğilim muhtemelen değişecek”
FBI, yapay zeka tarafından üretilen sentetik medyayı veya “deepfake’i ayırt etmek için kullanıcıların görüntülerde veya videolardaki senkronizasyon sorunları veya diğer tutarsızlıklar konusunda uyanık olmalarını önerdi.
Uzmanlar, federal hükümet ve özel sektörün dijital okuryazarlığı teşvik etmek ve etki kampanyalarını daha iyi bastırmak adına işbirliği yapmaları gerektiğini düşünüyor.
Yakın zamanda yürürlüğe giren Üretken Düşman Ağları (IOGAN) Sonuçlarını Tespit Etme Yasası uyarınca, Ulusal Bilim Vakfı ve Ulusal Standartlar ve Teknoloji Enstitüsü, manipüle edilmiş medya konusunda yürütülen araştırmalara fon sağlayacak.
Siber Bülten abone listesine kaydolmak için formu doldurunuz
