Cambridge Skandalı ile sarsılan sosyal medya devi Facebook’un senin hakkında ne kadar bilgiye sahip olduğunu, bu sitedeki paylaşımlarını ucunun nereye vardığını hiç düşündün mü?
Yaptığın ve son anda yapmaktan vazgeçtiğiniz paylaşımları bile takip edip saklayan Facebook, sana ayakkabı satmaya çalışmaktan kiminle flört ettiğine veya kime karşı sempati duyduğunu bile anlayabilecek bir noktada. Sosyal medya devi, online kadar offline bilgilerinin de peşinde. Bunları da satın alıp algoritmanın içine eklemeye çalışıyor…
Bunlar, Zeynep Tüfekçi’nin TED konuşmasından yansıyanlar. Konuşmanın ayrıntılı bir özetini ve konuşmanın kendisini aşağıda bulabilirsiniz:
İnsanlar yapay zekâyla ilgili korkularını dile getirdiğinde, genellikle kontrolden çıkmış insansı robotları hayal ederler. Terminatör gibi. Düşünmeye değer olsa da uzak bir tehdit bu… Yakın gelecekteki bağımsızlığımızı ve itibarımızı tehdit eden teknolojinin büyük kısmı veri ve dikkatimizi toplayıp reklamcı ve benzerlerine satan şirketler tarafından geliştiriliyor: Facebook, Google, Amazon, Alibaba, Tencent.
İlgili haber>> Cambridge Skandalı, Facebook’a pahalıya mal oldu
Gelin, dijital hayatımızdaki temel bir gerçeğe bakalım… İnternet reklamları. Bir örnek verelim. Diyelim ki Las Vegas’a uçak bileti satmak istiyorsunuz. Eski düzende, deneyim ve öngörülerinize dayanarak hedef bir demografik kesim belirlersiniz. Reklam yapmayı da deneyebilirsiniz, 25 – 35 yaş aralığındaki erkekler veya kredi kartı limiti yüksek olan insanlar veya emekli çiftler, değil mi? Geçmişte böyle yapardınız. Şimdi büyük veri ve makine öğrenimi ile işler artık böyle yürümüyor.
Bunu anlamak için, Facebook’un sizinle ilgili sahip olduğu tüm verileri düşünün: Yazdığınız her durum bildirisi, her bir Messenger sohbeti, oturum açtığınız her konum, yüklediğiniz tüm fotoğraflar. Bir şey yazmaya başlayıp sonra vazgeçip silerseniz, Facebook bu silinenleri de saklayıp analiz ediyor. Çevrimdışı verilerinizle sizi gitgide eşleştirmeye çalışıyor. Ayrıca veri acentalarından da çok fazla veri satın alıyor. Finansal kayıtlarınızdan tarama geçmişinize kadar her şey bu veri setinde olabilir. ABD’de bu tür veriler rutin olarak toplanıyor, karşılaştırılıyor ve satılıyor. Avrupa’da daha sıkı kurallar var.
Yani aslında olan şey, tüm bu veriler harmanlanarak, bu makine öğrenimli algoritmalar daha önce Las Vegas’a gitmek için uçak bileti alan insanların özelliklerini nasıl ayrıştıracaklarını öğreniyorlar. Var olan verilerden bunu öğrendiklerinde, bunu yeni insanlara uygulamayı da öğreniyorlar. Böylece, yeni bir bireyle karşılaştıklarında onun Las Vegas’a bilet alıp almayacağını sınıflandırabiliyorlar. Olsun, diye düşünüyorsunuz, alt tarafı Vegas’a uçak bileti teklifi. Görmezden gelebilirim. Ancak asıl sorun bu değil. Asıl sorun şu ki biz bu karmaşık algoritmaların nasıl çalıştığını artık anlamıyoruz.
Bu sınıflandırmayı nasıl yaptıklarını artık anlamıyoruz. Dev matematik matrisleri, binlerce sıra ve sütun, belki de milyonlarcası… Ve tüm verilere sahip olsalar bile, ne programcılar, ne bunları inceleyen herhangi biri bunun tam olarak nasıl işlediğini anlayabiliyor. Tıpkı size beynimden bir kesit göstersem ne düşündüğümü anlayamayacağınız gibi. Sanki artık programlama yapmıyoruz, tam olarak anlayamadığımız bir bilinç geliştiriyoruz. Ve bu mekanizmalar yalnızca müthiş miktarda veri varsa çalışıyor, dolayısı ile hepimizin üzerinde kapsamlı bir gözetleme de teşvik ediliyor ki makine öğrenimli algoritmalar işini yapabilsin. Bu yüzden Facebook, hakkınızda toplayabildiği tüm veriyi istiyor. Algoritmalar daha iyi çalışıyor…
Deneyler gösteriyor ki algoritmanın sizin için seçtikleri duygularınızı etkileyebilir. Bununla da bitmiyor. Siyasi davranışınızı da etkiliyor. 2010 yılı orta dönem seçimlerinde, Facebook, ABD’deki 61 milyon insan üstünde daha sonra açıklanan bir deney yaptı.
İlgili haber>> 100 bin dolar verin, Facebook ile seçim sonucu değişsin!
Bir grup insana ”Bugün seçim günü” yazısı gösterildi, bu daha basit olandı, diğer bir gruba ise aynı şey, küçük bir farkla gösterildi: ”Oy verdim” butonuna tıklayan arkadaşlarının küçük fotoğraflarının bulunduğu versiyon. Bu kadar basit bir nüans. Değişen tek şey fotoğraflardı ve seçmen kütüğünce de onaylandığı üzere, bu araştırmaya istinaden yalnızca bir kez gösterilen bu paylaşım o seçimde 340.000 ek seçmen olarak sonuçlandı. Şans eseri mi? Hayır. Çünkü 2012’de aynı deneyi tekrarladılar. O zaman, yalnızca bir kez gösterilen sivil mesaj 270.000 ek seçmen olarak geri döndü.
Hatırlatayım, 2016 ABD başkanlık seçimleri yaklaşık 100.000 oy farkıyla belirlendi. Yani Facebook kolaylıkla politikanız hakkında çıkarım yapabiliyor, siz bunu sitede hiç açıklamamış olsanız bile. Bu algoritmalar bunu oldukça kolay başarabiliyorlar. Peki ya bu güce sahip bir platform bunu adaylardan birinin destekçilerini arttırmak için kullanırsa? Bundan haberimiz olur mu?
Masum gibi görünen bir yerden başladık: Bizi takip eden reklamlardan… şimdiyse çok farklı bir yerdeyiz. Hem halk hem de vatandaş olarak, artık aynı bilgileri görüp görmediğimizi ve başkalarının ne gördüğünü bilmiyoruz ve ortak bir bilgi tabanı olmadan, adım adım, toplumsal tartışma imkânsız hale geliyor, biz bunun sadece başlangıç aşamasındayız.
Bu algoritmalar kolaylıkla insanların etnik özelliklerini, dini ve siyasi görüşlerini, kişilik özelliklerini, zekâsını, mutluluğunu, madde kullanıp kullanmadığını, ailesinin durumunu, yaş ve cinsiyetini sadece Facebook beğenilerinden tahmin edebilir. Bu algoritmalar, yüzleri kısmen gizlenmiş olsa da protestocuların kimliğini belirleyebilir. Bu algoritmalar insanların cinsel yönelimini, flört uygulamalarında kullandığı profil fotoğraflarından anlayabilir.
Facebook’un piyasa değeri yarım trilyon dolara yaklaşıyor. Bunun sebebi ikna mimarisi olarak harika çalışıyor olması. Ancak bu mimari yapı ayakkabı satıyor olsanız da aynı siyaset satıyor olsanız da… Algoritmalar farkı anlamıyor. Reklamlara karşı bizi sabırlı kılmak için üzerimize salınan bu algoritmalar, aynı zamanda siyasi, kişisel ve sosyal bilgi akışımızı da düzenliyor ve bu değişmek zorunda.
Siber Bülten abone listesine kaydolmak için formu doldurun
Dünya haberleriyle entegre olabilmek adına