Kategori arşivi: disinformation

disinformation

Derin sinir ağlarıyla oluşan içerik çok tehlikeli bir silaha dönüşebilir

Yorum yapın

Derin sinir ağlarıyla oluşan içerik çok tehlikeli bir silaha dönüşebilirAraştırmacılar, kamuoyunu etkilemek ve QAnon 2.0’yi (ABD’de aşırı sağcı komplo teorileri hareketi olarak bilinen girişim) güçlendirmek adına bir bot ordusu oluşturmak için devreye sokulan derin sinir ağlarının ne kadar tehlikeli olabileceğini ortaya koydu.

Dünyanın en önemli Siber Güvenlik Eğitim Programı olarak bilinen Black Hat’te Georgetown Üniversitesi Güvenlik ve Gelişen Teknoloji Merkezi’nin kıdemli araştırmacısı Drew Lohn tarafından sunulan araştırma, GPT teknolojisine odaklanan bir çalışma. GPT teknolojisi insan veya makine dili gibi bir dil yapısına sahip içerikler oluşturmada kullanılan çok güçlü bir yapay zeka modeli. 

2019 yılında Elon Musk tarafından kurulan OpenAI tarafından geliştirilen GPT’nin (GPT-2) ikinci nesil sürümü, sahtesi ve gerçeği ayırt edilemeyen haberler, makaleler ve sosyal medya yayınları oluşturma yeteneği ile biliniyor. Bu sürüm, onu geliştiren şirket de dahil olmak üzere bazı kesimler tarafından “piyasaya sürülmesi çok tehlikeli” olarak kabul ediliyor.

OpenAI kendi web sitesinde, “Teknolojinin kötü amaçlı uygulamalarıyla ilgili endişelerimiz nedeniyle tam eğitimli yapay zeka modeline erişim sadece araştırmacılara sağlandı.” ifadesi yer aldı.

GPT-3 SÜRÜMÜ KUTUPLAŞMALARI ARTIRMADA KULLANILABİLİR

Neden tehlikeli olduğuna gelince. GPT-2, şaşırtıcı derecede “konuyla alakalı” bir içerik oluşturmak için 1,5 milyar makine öğrenimi dil faktörünü (40GB) elemek üzere programlanabiliyor.

Asıl endişe ise aracın yanlış ellerde, interneti yanlış bilgilendirme ve sahte haberlerle doldurmak için kullanılabileceği konusunda yaşanıyor. 

GPT-2’nin gücünün ne denli büyük olduğunu anlamak adına Inferkit’teki araştırmacılar, kullanıcıların metin girebileceği ve yapay zekanın, girilen düşünceye ek yaparak “konuyla alakalı” metin üreteceği aracın hafif bir versiyonunu oluşturdular.

Lohn, Black Hat katılımcılarına Mayıs 2020’da piyasaya sürülen GPT-3 sürümünün sosyal medya bağlamında daha güçlü ve potansiyel olarak tehditkar olduğunu söyledi. GPT-2’nin 1.5 milyar parametreye göre sıralandığı yerde, GPT-3, 175 milyar parametreye kadar eleme yapabiliyor.

Pandemide yalan haberler davranışlarımızı gerçekten etkiliyor mu?

GPT-3 ayrıca kutuplaşmaları tetiklemek, kötü niyetli yalan haberleri yaymak için özel olarak tasarlanmış yapay zeka tepkileri üretebiliyor.

Araştırmanın GPT-3’ün yalan ve sahte haber yaymak isteyen bilgi operatörleri için ne kadar yararlı olabileceğini göstermeye çalıştığını söyleyen Lohn, sözlerini şöyle sürdürdü: “Yanlış ellerde, bu araç toplumun dokusuna zarar verebilir ve dezenformasyon kampanyalarına tamamen yeni bir boyut kazandırabilir.”

DEZENFORMASYON KAMPANYALARI 2016’DAN BERİ ARTIŞTA

2016’daki ABD başkanlık seçimlerinden bu yana, tehdit aktörleri dezenformasyon kampanyaları başlatmakta giderek daha yetkin bir hale geliyor – ve Facebook, Twitter ile diğer platformlarda radara yakalanmadan isteklerini gerçekleştirebiliyor. 

Lohn’un testlerinde, bot orduları, dezenformasyonu veya manipüle edilmiş bakış açılarını yineleyen beyaz ırkın üstünlüğünü savunan, iklim değişikliğini inkar eden veya QAnon ile ilgili tweet’leri otomatik olarak oluşturmak için yaratıldı. İnandırıcılık konusunda daha etkin olabilmek adına GPT-3, saygın kaynakların yazı tonunu ve stilini de taklit edebiliyor.

Raporda şu ifadeler yer aldı: “GPT-3’ün mesajlarının aslında QAnon takipçilerine hitap edip etmeyeceği, etik olarak test edemediğimiz bir şey ve bu araştırmamız için önemli bir sınırlama.” 

20 HABERDEN 11’İNİN GERÇEK OLDUĞUNA İNANDILAR 

Georgetown öğrencilerinin katıldığı testlerde katılımcılara gösterilen tweet’lerdeki mesajların inandırıcı olup olmadığı soruldu. Bir örnekte, sistem bir AP haberi için bazıları sağ bazıları sol eğilimli olmak üzere 20 varyasyon hazırladı. En az bir öğrenci 20 haberden 11’inin gerçek olduğuna inandığını söyledi.

Lohn, testlerde GPT-3’ün “Şiddetli ve kutuplaştırıcı söylemleri yukarı veya aşağı çevirecek şekilde” yapılandırıldığını söyledi. Botlar tarafından oluşturulan farklı tweet türlerine örnek olarak, Hıristiyan seçmeni sandıktan uzak tutmaya yönelik oluşturulan şu tweet dikkat çekici: “Seçimler kimsenin ruhunu kurtarmaz. Bir Hıristiyan için oy vererek tarihin akışını değiştirebileceklerini düşünmek saçmalıktır. Birinin kurtarılmasının tek yolu Mesih’in kanıdır.” 

“NEYSE Kİ ÇOK MALİYETLİ BİR TEKNOLOJİ”

Siyasi atmosferin sosyal medya botları tarafından yaratılan bir dünyaya ne kadar yakınız? İyi haber şu ki, GPT-3 ve GPT-2’nin çalışması için çok fazla bilgi işlem gücü gerekiyor. Lohn, mevcut olan GPT-2’nin bile bellek gereksinimleri nedeniyle sistemleri sık sık çökerttiğini söyledi.

Twitter dezenformasyon savaşında AP ve Reuters’dan destek alacak

Tam ölçekli bir dezenformasyon kampanyası yürütmek için gereken altyapı da maliyeti artıran bir faktör. Örneğin, 90.000 kelime üretmek 87.50 dolara mal oluyor. Buna karşılık, tek bir Tweet oluşturmak yaklaşık 0,02 dolara patlıyor. Araştırmacılar, Twitter kullanıcılarının yüzde 1’ine ulaşmak için yeterli Tweet üretmenin yılda 65 milyon dolara mal olabileceğini tahmin ediyor. Lohn, bunun çok maliyetli olsa da, bir ulus devlet tarafından karşılanabileceğini düşünüyor.

Etkili bir dezenformasyon kampanyasının yürütmek de masraflı bir iş. Araştırmacılar, tweet’leri  spam dedektörlerine yakalanmadan inandırıcı hale getirmek için rakiplerin binlerce Twitter hesabı oluşturması gerektiğini tahmin ediyor.

“Özetle, bu durum için GPT-2 ve GPT-3 var. GPT-2’yi ücretsiz olarak indirebilir ve binlerce ve milyonlarca farklı düşük kaliteli Tweet oluşturabilirsiniz. GPT-3 kullanılabilir olduğunda, daha kaliteli içerik oluşturabilirsiniz. Bunu belli bir ölçekte yapmak istiyorsanız maliyet daha yüksek olacaktır. 

disinformation

Twitter dezenformasyon savaşında AP ve Reuters’dan destek alacak

Yorum yapın

Sosyal medya platformu Twitter, gerçek dışı ve yanıltıcı içerikle mücadele amacıyla habercilik kuruluşları Associated Press ve Reuters ile çalışacak.

Söz konusu birlikteliğin Twitter’ın son zamanlarda dezenformasyonla mücadele kapsamında pilot uygulamasına başladığı Birdwatch’ın kalitesini de artıracağı düşünülüyor.

KÜRASYON EKİBİ İLE HAREKET EDİLECEK

Twitter’da top trende giren ve keşfet sayfasında karşımıza çıkan içeriklere ekstra bilgi eklemek, anahtar kelime ve hashtag aramalarında arama sonuçlarının nasıl listeleneceğine karar vermek, yüksek kalitedeki içerikleri önceliklendirmek ve pandemi gibi acil durumlarda keşfet sekmesinde görünen içeriklere müdahale etmek gibi çeşitli görev ve sorumluluklara sahip olan Twitter’ın Kürasyon ekibi, AP ve Reuters ile hareket ederek Twitter’da paylaşılan gönderilere doğru bilgilerin eklenme sürecini hızlandıracak.

Kürasyon ekibi, AP ve Reuters desteğiyle, platformdaki dezenformasyon gönderilerini kısa süre içerisinde kaldırmaya çalışacak. 

AP ve Reuters’ın destekleriyle Twitter’ın dezenformasyonla mücadele kapsamında geliştirdiği yeni araç Birdwatch’ın kalitesinin de artacağı düşünülüyor.

Twitter’ın teyit sitesi olacak Birdwatch da bu vesileyle AP ve Reuters’tan destek alacak. Söz konusu uygulama henüz ABD’de sınırlı kişilerce deneniyor olsa da Birdwatch üyeleri, Twitter’da paylaşılan gönderilerin değerlendirmesini AP ve Reuters tarafından iletilen geri bildirimler sayesinde gerçekleştirebilecek.

EDAM raporu: Tükiye’de veri doğrulama platformları ne durumda?

BIRDWATCH NEDİR?

Twitter kullanıcılarının yanlış bilgi içerdiğini düşündükleri paylaşımlarla ilgili ek bilgi ve belge sunma imkanı veren Birdwatch, “topluluk odaklı” teyit sitesi işlevi görecek. Söz konusu paylaşımlar Twitter yerine Birdwatch adlı sitede kullanıcılara sunulmasının yanında, içeriğe puan da verilebilecek.

Birdwatch’a katkıda bulunanlar arasına girmek için Twitter’a doğrulanmış bir telefon numarası ya da e-postası ile kayıtlı olmak, iki aşamalı kimlik doğrulamasını yapmış olmak ve yakın zamanda Twitter kurallarını ihlâl etmemiş olmak gerekiyor.

Bununla birlikte dezenformasyonu engellemek adına bir nevi teyit sitesi gibi çalışacak olan Birdwatch, “topluluk odaklı” yaklaşımı nedeniyle eleştirilerin hedefi olmaya devam ediyor.

disinformation

“Bilgi Düzensizliği ile Mücadele Eğitimi” Projesi: Dezenformasyon Eğitimi çevrimiçi aracı açıldı

Yorum yapın

NATO Kamu Diplomasisi tarafından desteklenen “Türkiye’de Bilgi Düzensizliği ile Mücadele Etmek: Eğitici Temelli Program” başlıklı proje, bilgi düzensizliğine neden olan ve bu yolla bilgi ekosistemine derinden zarar veren faktörlerin neler olduğu, neden ve nasıl meydana geldiği ve hangi kanallarla engellenebileceği konusunda eğitim yaklaşımıyla farkındalık yaratmayı ve Türkiye’de “bilgi güvenliği” üzerine düşünen ve tartışan bir topluluğun oluşmasını hedefliyor.

Projenin koordinatörlüğünü Marmara Üniversitesi’nden Prof. Dr. Emel Parlar Dal ve İstanbul Bilgi Üniversitesi’nden Prof. Dr. Emre Erdoğan yürütüyor. Projede ayrıca Şaban Çaytaş, Ayda Sezgin ve Sude Karahasan da görev yaptı.

Projenin ilk iki aşaması Haziran ayında Eğitici Eğitimi Programı ve Kursiyer Eğitimi Programı ile tamamlandı. Bu aşamada bilgi düzensizliği konusuyla ilgilenen 20 eğitici, proje koordinatörleri tarafından gerçekleştirilen iki günlük bir eğitimden geçerek bu konuda detaylı olarak bilgilendirildi.

Bir sonraki aşamada eğiticiler yaklaşık ikişer saatlik çevrimiçi derslerle günümüz bilgi ekosistemi, yanlış bilginin dijital ortamda yayılımı, yanlış bilgiyle mücadele, küresel politikada dezenformasyon gibi konularda eğitimler verdiler; bu eğitimlere toplamda 300’den fazla katılımcı katılarak sertifika almaya hak kazandı.

Son olarak www.dezenformasyonegitimi.org internet sitesinde dileyen herkesin ücretsiz bir şekilde her an ulaşabileceği açık erişimli bir ders tasarlanarak Dezenformasyon Eğitimi başlığıyla kamuoyunun erişimine açıldı.

Türkiye’de bu konuda ilk defa hazırlanan bu açık erişimli çevrimiçi eğitim yanlış bilgi ile ilgili temel kavramları, yanlış bilgilerin dijital platformlarda nasıl yayıldığı, yanlış bilgilerden kaçınmak için hangi araçların kullanılabileceği, küresel politikada enformasyonun ve dezenformasyonun rolü gibi konuları içeriyor.

Bilgi düzensizliği ile mücadele etmek amacıyla hazırlanan Dezenformasyon Eğitimi dersine çevrimiçi olarak erişebilir, ders videolarını izleyebilir, bilgi düzensizliği ile ilgili çeşitli okuma ve linklere ulaşabilir, eğitimleri tamamlayarak sertifikanızı alabilirsiniz.

Bu çevrimiçi araçta katılımcılar aşağıdaki derslere katılabilirler.

  • Dezenformasyon: Temel Kavramlar – Prof. Dr. Emre Erdoğan
  • Güvenlik Sorunu Olarak Dezenformasyon – Dr. Gökçe Gezer
  • Yanlış Bilginin Yayılımı: Platform Mimarileri – Doç. Dr. Akın Ünver
  • İnfodemi – Prof. Dr. Emre Erdoğan
  • Yanlış Bilginin Psikolojisi – Doç. Dr. Sinan Alper
  • Yanlış Bilgiyle Mücadele Araçları – Koray Kaplıca
  • Dezenformasyon ve Dayanıklılık – Doç. Dr. Suncem Koçer
  • Yanlış Bilginin Yayılımı: Dijitalleşme – Doç. Dr. Bilge Narin
  • NATO ve Yanlış Bilgi – Prof. Dr. Emel Parlar Dal
  • NATO, Rusya ve Güvenlik – Dr. Ziya Meral
disinformation

Sosyal medyaya Alman modeli önerisi: Dezenformasyona 5 yıla kadar hapis!

Yorum yapın
Cumhurbaşkanı Recep Tayyip Erdoğan’ın dezenformasyon açıklamasının ardından, sosyal medyaya ilişkin planlanan düzenlemenin ayrıntıları ortaya çıkmaya başladı
Hürriyet gazetesine konuşan Anayasa Komisyonu Başkanvekili Ali Özkaya, “Dezenformasyon yapanlara 1 yıldan 5 yıla kadar hapis cezası getirilmeli” önerisinde bulundu.
Ekim ayında Meclis’e gelmesi beklenen düzenlemede özellikle Almanya modeli ağırlık kazandı.

Edinilen bilgiye göre sosyal medya ile ilgili Meclis’te düzenleme yapmayı planlayan AK Parti, yeni anayasa çalışmasına da bazı hükümler koymayı hedefliyor.

Almanya, Fransa, İngiltere ile AB ülkelerinin yaptığı sosyal medya çalışmalarını da tek tek inceleyen iktidar partisi, Türkiye’ye has bir model getirmeyi hedefliyor.

YENİ YASADA SANSÜR SÖZ KONUSU DEĞİL

Yasa tasarısında herhangi bir sansürün söz konusu olmadığını vurgulayan Özkaya, “Daha önce de sosyal medya ile ilgili bir kanun çalışması yapmıştık. O zaman da aynı tartışmalar yaşandı, ‘sansür’ denildi fakat niyetin sansür olmadığı görüldü. Pek çok AB ülkesi Türkiye ile aynı tehdidi yaşıyor. Toplumun geniş kitlelerini baskı altına alıyor, normal hayatta suç olan sosyal medyada da suç fakat fake hesaplar nedeniyle suçla etkin mücadele yapılamıyor. Bu çözülmeli, herkesin kimliği bilinmeli. Sosyal medyada bir yalan haberi ya da terör suçunu, dezenformasyonu milyonlarca insan duyuyor.” diye konuştu.

Almanya’nın, terör ve şiddetle ilgili 2017’de ceza kanununu değiştirdiğini ve katalog suçları 4 başlıkta oluşturduğunu söyleyen Özkaya, “Bunlar ‘terör’, ‘cinsel suçlar ve pornografi’, ‘din ve vicdan özgürlüğüne hakaret’, ‘yalan haber, dezenformasyon ve mezenformasyon.’ Dezenformasyon, yalanın bilerek yaygınlaştırılması, mezenformasyon ise bilmeden yaygınlaştırılması. Bizde de bu başlıkları göz önüne alarak çalışma yapılıyor.” ifadelerini kullandı.

Erdoğan’dan sosyal medyayı düzenleme işareti: Dezenformasyon suç kapsamına mı alınıyor?

‘Almanya’da kanunda gösterilen hukuka aykırı içerik tespit edildiğinde , içeriğin yayından kaldırılması için sosyal ağ işletmelerine 24 saat süre tanınıyor’ diyen Özkaya, “Aksi takdirde 50 milyon euroya kadar para cezası kesiliyor. Almanya’da bulunan vatandaşların kanuna aykırı bir paylaşımı tespit edilenler hakkında suç duyurusunda bulunmasına da hak tanınıyor. Ayrıca ‘uyar-kaldır’ şikâyet sistemi uygulanıyor. Bizim düzenlememizde de bu maddeler mutlaka olmalı. Uyar-kaldır bizim sistemimizde var fakat etkin kullanımın oluşması gerekiyor” dedi.

Özkaya ayrıca, dezenformasyon yapanın belirli süre sosyal medya kullanması yasaklanabileceği ve maddi tazminat gibi uygulamaların olabileceğini belirtti.

Kaynak: Hürriyet

disinformation

Biden, Facebook’a yüklendi: Aşıyla ilgili mezenformasyon insanları öldürüyor

Yorum yapın

ABD Başkanı Joe Biden, Facebook gibi platformların Kovid-19 aşısı hakkında mezenformasyon yayılmasına izin vererek insanların ölümüne yol açtığını söyledi. Biden, bu tür platformlarda mezenformasyon yapılmasına ilişkin “İnsanları öldürüyorlar.” ifadesini kullandı.

Biden, Beyaz Saray’ın Güney Çimlerinde yaptığı açıklamada “Sahip olduğumuz tek salgın aşılanmamış insanlar arasında ve bu-insanları öldürüyor” dedi.

Biden, Beyaz Saray Basın Sözcüsü Jen Psaki’nin önceki yorumlarını da yineledi. Psaki, “Burada bir ölüm kalım savaşı veriyoruz ve bu nedenle doğru bilgi verildiğinden emin olmak için herkese görevler düşüyor.” demişti.

Psaki’nin yorumları, Biden yönetiminin Facebook için dezenformasyon yayan sorunlu yayınları tespit ettiğini söylemesinden bir gün sonra geldi.

“AŞI KISIRLIĞA YOL AÇIYOR” HABERİNDEN ÖRNEK VERDİ

Sosyal medya platformlarının, biz ve diğer birçok Amerikalı’nın geleneksel ve sosyal medyada karşılaştığı halk sağlığına tehlike arz eden bütün paylaşımların farkında olup olmadıklarından emin olmaya çalıştıklarını söyleyen Psaki, şöyle devam etmişti: “Sosyal medya platformu politikasını uygulama noktasında daha iyi bir anlayışa sahip olmaları için onlarla etkileşimde bulunmaya çalışıyoruz.” Psaki konuya ilişkini bir de örnek verdi. Koronavirüs aşılarının kısırlığa yol açtığını ileri süren dezenformasyonun altını çizen Psaki şunları söylemişti: 

“Bu rahatsız edici fakat birçoğumuzun sürekli karşılaştığı bir paylaşım. Sosyal medya platformlarının bunu ele almak için adımlar attığını bilmek istiyoruz.”. Psaki, Facebook ve diğer sosyal medya hizmetlerinin yanlış bilgilerle mücadele etmek için atabileceği ek adımlara dikkati çekti. Bu adımlar arasında mezenformasyonun etkilerini kendi platformlarında paylaşmak, kaliteli bilgileri teşvik etmek ve zararlı yayınlara karşı daha hızlı harekete geçmek yer alıyor. 

FACEBOOK SUÇLAMAYI REDDETTİ: 2 MİLYAR İNSAN FACEBOOK SAYESİNDE AŞI HAKKINDA BİLGİ SAHİBİ OLDU

Facebook, Beyaz Saray tarafından yapılan iddialara karşı açıklama yaptı. Firma adına konuşan bir sözcü şunları söyledi: “Bu suçlamalar gerçeklere dayanmıyor. Gerçek şu ki, 2 milyardan fazla insan Kovid-19 ve aşılar hakkında yetkililerin verdiği bilgileri Facebook sayesinde inceledi, bu da internetteki diğer platformlardan daha fazla. 3,3 milyondan fazla Amerikalı, nerede ve nasıl aşı olacağını öğrenmek için aşı bulma aracımızı kullandı. Gerçekler, Facebook’un hayat kurtarmaya yardımcı olduğunu gösteriyor.