Gazetecileri hakaret davalarından koruyacak yeni bir yapay zeka destekli program geliştirildi.
Hakaret davaları haber kuruluşları ve gazeteciler için büyük bir tehdit oluşturuyor. Yayınlanmadan önce potansiyel olarak riskli haberleri tespit edebilecek bir sistem ile zaman ve paradan ciddi oranda tasarruf edebilir.
Conor Brady adlı gazeteci de sinir ve makine öğrenimi konusunda araştırmalar yapan ve kendisi de eski bir gazeteci olan oğlu Neil Brady ile bu konudaki boşluğu değerlendirmeye karar verdi. Ortaya CaliberAI adlı yapay zeka vasıtasıyla gazetecilere haber metinlerinde hakaret, iftira ve aşağılayıcı olarak değerlendirilebilecek bölümleri bulmaya yardım etmeyi amaçlayan yeni bir girişim çıktı.
Conor Brady İrlanda’daki evinden Brexit oylarını ve eski ABD Başkanı Donald Trump’ın seçimini takip ettiği sırada haber metinlerindeki iftira ve hakaret içeren ifadelerin bolluğunu fark etti. Brady’ye göre, her seçim sırasında yalan haberlerin öne çıkması—Müslüman göçmenler olsun Hillary Clinton’un sağlığı hakkında olsun—dezenformasyonun yayılmasını kontrol etmeye yönelik kaynakları olmayan bir haber endüstrisinin doğrudan sonucu idi.
OTOMATİK HAKARET TESPİTİ YAPAN BİR ALGORİTMA
O dönemde, Brady’nin kendisi de eski bir gazeteci olan oğlu Neil—Uluslararası ve Avrupa işleri Enstitüsü’nde dijital politika analisti olarak çalışıyor ve sinir ağlarını ve makine öğrenimini araştırıyordu. Baba -oğul konu üzerinde düşünmeye başladı ve şu sorunun cevabı üzerinde düşünmeye başladılar:
“Bir makine öğrenme aracı, iş yükü aşırı derecede artan haber merkezlerine yardımcı olma noktasında editörlerin ve avukatların bilgeliğine yaklaşabilir mi? “Otomatik hakaret tespiti” yapacak bir program ikilinin düşündüğü modele en fazla uyacak bir araç gibi duruyordu.
Brady oğluna şu soruyu sorar: “Bu tür bir araç geliştirseydik editörler ve gazeteciler bunu kullanır mıydı sence?” Oğlunun cevabı ise şu şekilde olur: “Kullanacaklarından şüphem yok.” Bunun üzerine çalışmalara başlarlar.
GAZETECİLER HAKARET DAVALARI İLE KARŞI KARŞIYA
CaliberAI, Kasım 2020’de bir hükümet fonu olan Enterprise Ireland’dan 300 bin pound’luk bir hibe alarak çalışmalara başlayan bir start-up. Uygulama temelde gazetecilere ve editörlere potansiyel hakaret için bir uyarı sistemi görevi görüyor.
Hakaret davaları, Avrupa’daki yayıncılara karşı, Anayasanın birinci maddesinin gazetecilere ekstra koruma sağladığı ABD’den çok daha kolay olma eğiliminde. Avrupa Birliği ve Birleşik Krallık, platformlara hakaret de dahil olmak üzere zararlı ve yasadışı içeriğe ilişkin olarak yeni yasal sorumluluklar getirebilecek yasalar çıkarma sürecinde.
ABD’de Kongre, Amerikan şirketlerini kullanıcı mesajlarına karşı sorumluluktan koruyan “İletişim Ahlakı Yasası”nın 230. bölümünde reform yapma çağrısı yapıyor. Dünya genelinde sosyal medya platformları yakın bir gelecekte, gazetelerin uzun süredir uğraşmak zorunda kaldığı yasal sorumluluğun bir başka türüyle karşı karşıya kalabilir. Gazetecilerin bununla başa çıkma yetenekleri, Bradys’nin geliştirdiği araçlar gibi girişimlerin başarısına bağlı olabilir.
İftira ve hakaretin, internet tarihinde önemli fakat gözden kaçan bir rolü bulunmakta. Gazeteler ve TV haber bültenleri gibi geleneksel medya kuruluşları, hakaret ve iftira içerikli bir iddianın yayınlanması noktasında sert sorumluluk kurallarıyla karşı karşıya. Buna birinin itibarına zarar veren yanlış bir ifade ya da sadece bir başkası tarafından yapılan iftira niteliğinde bir ifadeyi iletmek dahil.
Yapay zeka moderasyonu, gerçeği ve sahteyi kesin olarak ayırt etmeye yakın olmasa da, potansiyel olarak iftira niteliğinde olabilecek ifadelerin bir alt kümesini tanımlayabilmeli.
UYGULAMA TABU KELİMELER İÇEREN BİR VERİ SETİNE GÖRE HESAPLAMA YAPIYOR
Dublin’deki Trinity College’dan hesaplamalı dilbilim profesörü Carl Vogel, CaliberAI’nin modelinin oluşturmasına yardımcı oldu. Uygulamanın hakaret olma olasılığı yüksek olan ifadeler için çalışan bir formülü bulunmakta: Bir bireyi veya grubu üstü kapalı veya açık bir şekilde adlandırmalı; bir iddiayı gerçekmiş gibi sunmalı; ve hırsız, sarhoş ve diğer uygunsuz ifadeleri içeren bir tür tabu dili içermeli.
Bir makine öğrenme algoritmasının yeterince büyük bir metin örneği ile desteklenmesi durumunda, davalardan korumaya çalıştıkları şirkete bağlı olarak “olumsuz kelimeler arasındaki kalıplar ve ilişkiler” tespit edilebiliyor.
Conor Brady, hakaret içeren ifadelerin bir listesini oluşturmak için gazetecilikteki uzun tecrübesinden yararlandı. “Herhangi bir kişi hakkında söylenebilecek tüm olumsuz ifadeleri düşündük ve bunları bir araya getirdik.” diyor Brady.
Orwell’in 1984 romanı gerçek mi olacak?: Yapay zeka özgürlükleri tehdit ediyor
Daha sonra, ekipteki hesaplamalı dilbilimci ve veri dilbilimcisi olan Alan Reid ve Abby Reynolds tarafından denetlenen bir grup yorumcu, daha büyük bir liste oluşturmak için orijinal listeyi kullandı. Yapay zekayı, ifadelere 0’dan (kesinlikle aşağılayıcı değil) 100’e (avukatınızı arayın) kadar puan vermesi için eğitme noktasında bu veri seti kullanılıyor.
HAKARET İÇİN YAZIM DENETİMİ
Sonuç, şimdiye kadar, “Hakaret için Yazım Denetimi” gibi bir uygulamanın ortaya çıkardı. Şirketin web sitesinde bir demo sürümü bulunmakta ve bu demo ile yazdığınız metni test etmeniz mümkün. wired.com’dan Gilad Edelman demoya “John’un yalancı olduğuna inanıyorum” şeklinde yazdığı ifade program tarafından hakaret eşiğinin altında “40” puanlık bir olasılık verdi.
Edelman daha sonra “herkes John’un yalancı olduğunu biliyor” ifadesini denedi. Program bu kez “herkes biliyor” (gerçek ifadesi), “John” (belirli kişi) ve “yalancı” (olumsuz dil) şeklinde işaretleyerek yüzde 80’lik bir olasılık puanı verdi.
