Etiket arşivi: yazarlar

Ya robotunuz kişisel verilerinize sadık kalmazsa?

Teknolojik inovasyon hayatımızı hızlı şekilde değiştirmeye başladı. Özellikle robotik teknolojide yaşanan gelişme yakın bir gelecekte sosyal hayatımızda da hissedilecek. Endüstriyel alanda yoğun şekilde kullanılan robotlar artık hizmet sektörüne de destek sunmaya başladı. Örneğin, humanoid robot üretiminde önemli bir şirket olan Pal Robotics geceleri ürünleri kontrol etmek amacıyla mağazaların içinde gezen Stockbot’u fuarlarda görücüye çıkardı.

Yine önemli teknoloji şirketlerinden Oppent’in otonom araçları, hastanelerde çamaşırları ya da atık malzemeleri taşıyor, 100 yıllık geçmişi olan Yaskawa şirketinin Motoman robotu laboratuvar örnekleri hazırlıyor, Bristol merkezli OC Robotics nükleer santraller ya da uçak kanatlarının içi gibi tehlikeli noktalarda denetim yapması için yılan kollu robotlar üretiyor.

Fonksiyonlarının genişlemesi ve hizmet robotlarının çalışma ortamları nedeniyle güvenlik gereksinimleri de değişiyor ve karmaşıklaşıyor. Örneğin evin içinde internete bağlanabilen bir robotun kullanılması evin iç mekanının görüntülenebilmesinin yolunu açıyor. Bunlar saat kaçta eve gelip gittiğinizden kimlerle görüştüğünüze kadar hayatınıza dair tüm bilgileri kaydedebiliyor. Bu sayede kullanıcıların kişisel verilerine erişmenin de yolu açılmış oluyor.

Ayrıca yine internet bağlantısı sayesinde robota erişebilen kötü niyetli kişilerin ev sahibinin diğer birçok kişisel bilgisine ulaşması da söz konusu olabiliyor. Bu açıdan, tüketicilere yönelik makinelerde veri güvenliğinin de ön planda olması gerekiyor. Toplanan verilerin kime ait olacağı, hangi biometrik verilerin veya hangi verilerin sensör tarafından toplandığı, ne kadar veri toplandığı, bu verilerin nasıl kullanılacağı konularında şu an tam bir açıklık bulunmamaktadır. (S. Peppet, Regulating the Internet of Things: First Steps Toward Managing Discrimination, Privacy, Security, and Consent, sf.95)

Robotlar açısından hukuksal anlamda bu konuya uygulanabilecek doğrudan bir düzenleme bulunmuyor. Avrupa Birliği’nin düzenlemelerine ve Türkiye’deki uygulamalara bakıldığında bunlar söz konusu problemlere çözüm için fikir verebilir. AB’nin 2002/58/EC Direktifi’ne göre , genel olarak kötü amaçlı yazılım saldırısı gibi belirli riskler söz konusu olduğunda, hizmet sağlayıcı tarafından kişiler bilgilendirilmeli ve bilgilerinin gizliliği sağlanmalıdır. (kısım 4, md.1) Burada kişilerin temel hak ve özgürlüklerini koruma adına hizmet sağlayıcının da yükümlülüklerinin belirlenmesi gerekir.

Türkiye’de KVKK açısından bir değerlendirme yapıldığında veri sorumlusunun veri güvenliğine ilişkin yükümlülükleri bulunmaktadır. Ancak söz konusu yapay zekaya sahip bir robot tarafından kaydedilen veriler olduğunda veri sorumlusu ve veri işleyenin belirlenmesi önemli sorun teşkil etmektedir. KVKK açısından veri sorumlusu, her hangi bir temsilci, sorumlu kişi anlamında değil, doğrudan ilgili gerçek kişi veya tüzel kişi olarak tanımlanmış durumdadır. Örneğin, bir anonim şirketin kendisi bu kanun anlamında tüzel kişi olarak veri sorumlusudur. Veri işleyen ise, veri sorumlusunun verdiği yetkiye dayanarak onun adına kişisel verileri işleyen gerçek veya tüzel kişidir. Her ne kadar kanunda gerçek kişi veya tüzel kişi olarak belirlenmişse de kendi başına karar alıp uygulayabilen yapay zekalı bir robotça işlenmiş kişisel veriler bakımından veri sorumlusu ve veriyi işleyen kavramlarının yeniden belirlenmesi gerekecektir.

Bu konuya dair düzenlenmiş kanunlar istisnalar getirse de kişisel veriler ilgili kişinin rızası olmaksızın işlenemez. Sosyal hayatta hizmet sektöründe kullanılan veya evimizde bulunan robotların kameralar ve internet bağlantısı yoluyla tam olarak hangi bilgilerimize eriştiğini fark edemeyebiliriz. Bu robotlarca toplanan kişisel verinin amacının dışında kullanılmaması gerekir. Yine AB’nin 2009/136/EC Direktifi’nde, kişisel veri ihlali durumunda hizmet sağlayıcının, kişilere gerekli önlemleri almaları için bildirimde bulunması, bu bildirimin ihlali gidermek için alınan önlemlerin yanı sıra ilgili kişiye tavsiyeler de içermesi gerektiği belirtilmektedir. ( md.61)

KVKK düzenlemesinde de veri sorumlusu, kişisel verilerin hukuka aykırı olarak işlenmesini ve bunlara erişilmesini önlemek, kişisel verilerin muhafazasını sağlamak amacıyla uygun güvenlik düzeyini temin etmeye yönelik gerekli her türlü teknik ve idari tedbirleri almak zorundadır. Yukarıda belirtilmiş olduğu gibi burada da kullanılan robotik teknoloji açısından yazılımcı ve üretici bakımından veri sorumlusu kavramının aydınlatılması gerekir.

Kişisel veriler ilgili kişinin açık rızası olmadan aktarılmamalıdır. Ancak özellikle bulut teknolojisinin robotlara uygulanmasıyla verilerin gizliliği ve güvenliği açısından daha büyük bir risk altına giriliyor. Robotların internet aracılığıyla aralarında veri transferi yapması kişisel verilerin aktarılması tehlikesini artırıyor. Bu noktada kişisel verilerin güvenliğinin sağlanması amacıyla örneğin, yetkisiz erişimi, kötücül kod dağıtımını önleme gibi tedbirler alınmalıdır. EU 2016/679 sayılı Tüzük’teki düzelemeye baktığımızda, veri güvenliği değerlendirilirken oluşabilecek maddi veya maddi olmayan zararlar nedeniyle kişisel veri işleme yoluyla oluşan risklere dikkat edilmesi vurgulanmaktadır. (md.49) KVKK’da da, kişisel verilerin üçüncü kişilere aktarılmasında ilgili kişinin açık rızası aranmaktadır. Ancak bir robotun hangi bilgileri kaydettiğini ve bu verileri hangi üçüncü kişilere, ne zaman aktardığını, sonrasında ise oluşabilecek zarardan sorumluluğu tespit şu an büyük bir belirsizlik yaratıyor.

Değinilmesi gereken başka bir nokta ise bireylerin kendilerine ait verilerin toplanmasına ve aktarılmasına önceden izin verip veremeyeceğidir. Robotta bulunan ve birtakım verileri kaydedeceğini bildiğimiz çipin aktif halde bulunmasını istemeyebiliriz. Burada karşımıza yeni bir hak çıkar “çipi etkisiz hale getirme hakkı”. Bu bir opt-out (vazgeçme/çekilme) usulüdür. Çip başlangıçta aktiftir, kullanıcı daha sonra çipi etkisiz hale getirebilmektedir. Bir başka usul ise opt-in(dahil olma)dir. Burada ise çip başta aktif değildir, kullanıcı aktif hale getirip getirmemeye karar verir.(Yrd. Doç. Dr. A. Ebru Bozkurt Yüksel, Nesnelerin İnternetinin Hukuki Yönden İncelenmesi, sf.123)

Kullanıcının bilgisi dahilinde olmadan, önceden yerleştirilmiş çiplerin veya eklentilerin kişilere ait özel nitelikli verileri, açık rıza olmaksızın işlemesi de bir yaptırımla düzenlenmelidir. Ayrıca kişiler, robot tarafından uygun olarak işlenmiş olan verilerin, unutulma hakkının bir karşılığı olarak, silinmesini isteme hakkına da sahip olmalıdır. İşlenmesini gerektiren veriler re’sen veya ilgili kişinin talebi üzerine anonim hale getirilebilir. Ancak evlerde kullanılan robotlar özel hayata dair en hassas bilgileri kaydedebildiğinden bu verilerin anonim hale getirilmesi de pek mümkün gözükmüyor.

Genel olarak, yapay zekalı robot teknolojisinin henüz gelişme aşamasında olduğunu söyleyebiliriz. Bu alanda bireylerin toplanan verilerinin nasıl kullanılacağı, gizliliğinin ve güvenliğinin nasıl sağlanacağı konusunda bir açıklık söz konu değil. KVKK ve ilgili yönetmeliğe bakıldığında, kişisel verilerin işlenmesinde uyulması gereken ilkeler, verilerin işlenme şartları, silinmesi, yok edilmesi ve anonim hale getirilmesi, aktarılması, kişilerin bilgilendirilmesi ve yükümlülükler gibi pek çok önemli nokta düzenlemiş olmakla birlikte kullanıcıların bilgilerinin gizliliği, genel veri korumasına dair AB ile uyumu sağlayan düzenlemelere ihtiyaç var. Şu aşamada robotik teknolojinin getirdiği sorunlara mevcut düzenlemelerin yorumlanması yoluyla çözüm üretilebilse de gelecekte yapay zekalı robotlara yönelik standartların belirlendiği özel düzenlemelerin yapılması gerekecektir.

Siber Bülten abone listesine kaydolmak için formu doldurunuz

Bu casus yazılım bilgisayar yaktırır!

Gamma International üzerine bir yazı yazmak için araştırma yapmaya başladıktan 10 dakika sonra bilgisayarı yakmak istedim. Bundan önce nedense makineye çamaşır suyu dökme fikri de aklıma geldi.

Bu duygularımı, Gamma International’ın ne kadar “başarılı” bir casus yazılım ürettiğini anlatmak adına itiraf ediyorum. Bakalım, siz de bu haberi okuduktan sonra benzer düşüncelere sahip olacak mısınız?

Devletlerin gözdesi bu yazılıma geçmeden önce Gamma International’dan bahsetmek yerinde olur. Gamma, esasında bir Alman-İngiliz şirketi. Şirketin başında eski bir asker olan Louthean Nelson bulunuyor. Şirketin varlığı dünyanın farklı yerlerindeki şirketler üzerinden devam ediyor. 2007’de kurulan bu şirketin İngiltere’deki girişiminin bir kısmı da Nelson’un babasına ait.

Almanya’daki şirket, Louthean Nelson’un şirket ile bir ilişkisi olmadığını ilan etti. Ancak Panama belgeleri ile Nelson’un burada bir şirketi olduğu ve Gamma’da ortaklığı olduğu ortaya çıkınca Alman şirket, Nelson’un varlığını kabul etmek zorunda kaldı. Yani, Gamma’nın ürettiği casus yazılım FinFisher’in bilgisayardaki ve cep telefonlarındaki varlığını tespit etmek ne kadar zor ise Nelson’un tam kimliğini, geçmişini ve nerelerde olduğunu tespit etmek o kadar zor.

İnternette yapılacak kısa bir araştırmada karşınıza Mısır ve Bahreyn’den tutun Güney Afrika ve Türkmenistan’a kadar olan bir coğrafyada FinFisher ile ilgili haberlerin varlığını görebilirsiniz. Hatta Almanya ve İngiltere yönetimlerinin FinFisher programını bazı ülkelere satılmasına yasak getirdiğini de…

Peki, FinFisher nasıl bir program? Ve neden bu kadar başarılı?

Gamma International, FinFisher adlı programını sadece devletlere ve güvenlik kurumlarına pazarlıyor. Bu pazarın en gelişmiş casus yazılımı olarak kabul edilen FinFisher bilgisayara, cep telefonlarına, tabletlere ve diğer elektronik ürünlerine bulaştırılabiliyor. Hatta bir internet kafeye bulaştırıldığında buradaki bütün bilgisayarları takip edebiliyor.

FinFisher, kendisini Windows güncellemesi veya bir e-posta eklentisi olarak gösteriyor. Bilgisayara bulaşmasının ardından her türlü işlemi ve klavyede hangi tuşa basıldığını bile takip edip merkeze gönderebiliyor. Skype görüşmelerinizi takip edip şifreleri görüşmelerinizi ve e-posta yazışmalarınızı takip edebiliyor. Bunların ötesinde bilgisayarın mikrofonunu veya kamerasını açıp kapatabiliyor. Sabit diskteki şifreleri dosyalara da ulaşabiliyor.  

KENDİNİ GİZLEMEK İÇİN TASARLANMIŞ

FinFisher kendisi bilgisayar veya cep telefonunda gizlemek için geliştirilmiş bir casus yazılım. Öncelikle, ESET gibi önde gelen anti-virüs şirketleri, FinFisher’i tespit etmenin zor olduğu itiraf etmiş durumda. ESET’in açıklamasına göre, bu program analiz edilmesine, hata ayıklamasına ve emülasyona dirençli. Kendini, bilgisayar içinde saklamak ve fark edilmemek için uğraş gösteriyor. Anti-virüs programlarının tespit etmesini engellemek için de kendisini virüs listesinden siliyor.

FinFisher’in Word dokümanı üzerinden kurbanların bilgisayarlarına bulaştığı ortaya çıkınca Microsoft, uzun uğraşlar sonucunda Windows çalıştıran bilgisayarların ve Office365’in bu virüsü tespit edebildiğini ilan etti.

Bu başarısına rağmen Microsoft, FinFisher’in ne kadar başarılı olduğunu da paylaşmaktan geri durmadı. Şirket uzmanları, FinFisher’in analiz karşıtı korumasının onu “farklı bir kötü amaçlı yazılım kategorisine” koyduğunu itiraf ederken Gamma’nın bu programın bulaştığı ortamda gizli kalması için çok uğraş verdiğini de belirtti.

Microsoft uzmanlarına göre, FinFisher’in analiz edilmesini engellemek için altı katlı bir koruma var. Her bir katmanı teker teker geçmek gerekiyor. Bu özelliği yüzünden programı, normal bir şekilde incelemek neredeyse imkânsız. Mesela, virüs, sanal makineye yüklenip buradaki varlığının incelenmesine karşı bile donanımlı.  

Finfisher’i bilgisayar veya cep telefonunuzda tespit etseniz bile silmeniz de imkânsız. Bununla birlikte bu virüsü güvenli bir şekilde üstesinden gelmenin bir yolu ise yok.

GAMMA’YA 2014 DARBESİ: Maymunlar da ağaçtan düşer

Japonların bir atasözü vardır: Maymunlar da ağaçtan düşer. Bu kadar başarılı bir casus yazılım programına sahip Gamma’yı bir grup hacker, 2014 yılında hackleyip 40 GB’lik bir bilgi almayı başardı. Ele geçirilen bilgiler arasında müşteri bilgileri, kılavuz ve broşürler, fiyat listesi, kodlar ve gizli şirketlerin isimleri yer alıyordu.

Belgelerin birinde FinFisher’in başarı gösterdiği 35 anti-virüs programının ismi vardı. Bununla birlikte hangi ülkede ne kadar kullanıldığı da belirtiliyordu.

Bu ülkeler arasında yer alan Mısır ve Bahreyn’in ismi 2011’deki Arap Baharı olayları sırasında gündeme geldi. Hüsnü Mübarek’in istifası ardından kontrolü bir süreliğine eline alan muhaliflerin, Kahire hükümeti ile Gamma International arasındaki anlaşmayı buldukları rapor edildi.

FinFisher programı, 2012 yılında Bahreynli bir siyasi aktivistin bilgisayarında da ortaya çıktı. Muhalif aktivistin e-postasındaki bir eklentide FinFisher’i içeren kodlar bulundu. Gamma International, Bahreyn yönetimi ile bir anlaşması olmadığını açıkladı. Ancak 2014’te ortaya çıkan ülke listesinde Bahreyn’in de adı olduğu ortaya çıktı. Bir Amerikalı, Etiyopya hükümetinin bu casus yazılımı kendi bilgisayarına yükleyip onu takip ettiği gerekçesiyle 2014 yılında mahkemeye başvurdu. Güney Afrika ve Makedonya’da da bu programla ilgili haberler ortaya çıktı.

Programın Türkiye ile bağlantılı ortaya çıkması ise CHP Genel Başkanı Kemal Kılıçdaroğlu’nun Adalet Yürüyüşü sırasına denk geldi. CHP’lilere göre, Adalet Yürüyüşü’ne ilişkin sahte bir internet sitesi kurulup buraya girenlere bu casus yazılım bir şekilde bulaştırıldı. CHP yönetimi, bununla ilgili bir suç duyurusunda da bulundu. Türk hükümet ise satın alınan veya gayriresmi bir şekilde alınıp kullanılan bir program olmadığını açıkladı.

FinFisher’in marifetleri çok. Bu yazıyı hazırlarken nedense bilgisayarın gereğinden çok kasıldığını ve donar gibi olduğunu da belirtmem gerekiyor. Neyse ki cihazı yenileme zamanı geldi. Bu bilgisayardaki kaleme aldığım son yazılardan biri bu olabilir.

Ancak yeni bilgisayar çare olacak mı? Son haberlere göre, bazı internet sağlayıcıların, hedeflerindeki kullanıcılara bu casus yazılımı kolayca yükleyebiliyor. Bilgisayarı değiştirsem de çözüm olmayacak gibi duruyor…

Siber Bülten abone listesine kaydolmak için formu doldurunuz

“Otomobili tekerlekli bir bilgisayar ağı olarak kabul etmeliyiz”

Nevada Üniversitesi otonom araç geliştirme ekibinin başmühendisi Richard Kelley

Nevada Üniversitesi otonom araç geliştirme ekibinin başmühendisi Richard Kelley Siber Bülten yazarı Selin Çetin’e verdiği röportajda, internetin ilk ortaya çıktığında güvenlik endişesinin ön planda olmamasının bugünkü siber riskleri doğurduğuna işaret ederek, gelişmekte olan otonom araç teknolojisinde aynı hatanın tekrarlanmayacağını söyledi.

Intelligent Mobility Initiative’de, ulaşım sorunlarına yapay zekâ uygulanması üzerine çalışan bir araştırma projesinin de önde gelen araştırmacılarından biri olan Kelley, internete bağlı araba üreticilerinin de tüketicilerin de arabayı tekerleklere sahip bir bilgisayar ağı olarak görmesinin de önemine dikkat çekti.

Çetin: Genel bir soru ile başlayalım. Otonom araçların bizim için potansiyel faydaları neler olacak? Onlara neden ihtiyacımız var?

Kelley: Bence, otonom araçlar üzerine çalışan herkes -en azından bir kısmı-otonom araçlarla daha güvenli bir gelecek olacağı için bunu yapıyor. Bugün çoğu trafik kazası insan hatasından dolayı oluyor ve otonom araçlar, bu kazaların kaynağını ortadan kaldırma potansiyeline sahip. Ancak güvenlik konusunun ötesinde, otonom araçlar yapay zekâ bakımından ileriye yönelik önemli bir adımdır. Şu ana kadar, çoğu otonom robot, nispeten kısıtlı ortamlarda çok basit görevleri çözmek için konuşlandırılmıştır (bir evi temizleme gibi). Öyle görünmüyor olabilir, ama güvenilir temizlik robotları bakımından sahip olduğumuz noktaya ulaşmak aslında büyük bir teknik başarıdır çünkü laboratuvardan oturma odasına gitmek onlarca yıl aldı. Bir araba sürmenin bir ev temizlemeye göre ne kadar zor olduğunu kıyaslayın. Tamamen otonom arabalara, her türlü çılgınca şeyin olabileceği gerçek dünyada faaliyet gösterebilen otomobillere, ulaşmak için robotistlerin ve YZ uzmanlarının, YZ teknolojisinin sınırlarını zorlaması gerekiyor ve bu teknolojinin günlük hayatımıza yayılması toplum için pek çok fayda sağlayacak.

Çetin: Otonom araçlarla ilgili hacklenme, terörizm, gizlilik ve güvenlik ile ilgili riskler konusunda eleştiriler mevcut. Bu risklerle ilgili ne düşünüyorsunuz. Bunların üstesinden gelinebilir mi?

Kelley: Bunların hepsi kritik olarak önemli konulara işaret ediyor. İnternet ve World Wide Web’in üzücü taraflarından biri güvenliğe başından beri değil de sonradan odaklanmaya başlamasıdır. Aynı hatayı otonom ve bağlantılı araçlarla yapmaktan kaçınmamız için bir şansımız var. Güvenlik sorunlarını (hack ve terörizm gibi) ele almak için muhtemelen arabaların nasıl geliştirildiğini yeniden düşünmek gerekecek. Bu günlerde bir araba, düzinelerce mikro denetleyiciden ve ilk bilgisayar solucanı bile icat edilmeden birkaç yıl önce 1980’lerin ortasında tasarlanan bir ağ protokolü (CAN) ile bağlı bilgisayarlardan oluşuyor. Otomobilin tekerleklere sahip bir bilgisayar ağı olduğunu kabul etmeli ve bu gerçeğin farkında olan ve bunu ele alan yeni güvenlik sistemleri geliştirmeye çalışmalıyız.

Mahremiyet söz konusu olduğunda, toplumun ileri teknolojiden mahremiyete kadar modern tehditleri öğrenmesi ve buna dayalı olarak, öğrenmenin demokratik olarak nasıl ilerleyeceğine karar vermesi gerektiğini düşünüyorum. Bence bunu sosyal medya bağlamında görmeye başlıyoruz; umarım otonom arabalar daha yaygın olduğu zaman, insanlar mahremiyetlerine nasıl değer vermeleri gerektiği konusunda daha iyi fikir sahibi olurlar. Bu zorlukların tamamı çok önemli, ancak ileriye doğru iyi bir yol seçebilmemiz için umutlu olalım.

Çetin: Bu teknolojinin geliştirilmesinde hükümet ve özel sektör ne gibi rollere sahip olmalı? Hangisi daha faydalı olabilir?

Kelley: Hem hükümet hem de özel sektör bu konuda rol oynuyor ve gelecekte otonom araç geliştirilmesinde de önemli rolleri olacak. Bence hükümetin temel rolü, kamuoyunun güvenlik kaygılarını, şirketlerin sistemlerini kapsamlı bir şekilde test etme gereksinimi ile dengeleyen yararlı bir düzenleyici ortam yaratmak olacaktır. Aynı zamanda, muhtemelen şirketlerin üzerinde çalışabilecekleri spekülatif araştırma konuları da var ve muhtemelen bu tür konularla ilgili araştırmaları finanse etmek için hükümetin olanaklarından yararlanılabilir. Örnek olarak, çok az sayıda otonom araç şirketi ağa bağlı şehirler konusunda bu teknolojiyle ilgilenmektedir, çünkü sistemlerinin kamu altyapısına bağlı olmadan çalışmasını istiyorlar. Ancak, böyle bir altyapının devletin araştırmaları destekleyebileceği başka faydaları olabilir. Ekibim şu anda Reno şehri ve Nevada Eyaleti ile akıllı LIDAR ağlarının şehirleri nasıl daha güvenli ve daha duyarlı hale getirdiğini araştırmak için çalışıyor.

Özel sektörün öncelikli işi ise, temel teknik gelişmeleri ileriye doğru taşımak olacaktır. Sonuç olarak, her iki rolün de eşit derecede önemli olduğuna inanıyorum.

Çetin: Otonom araç yazılımları gelişirken, bunun hukuka ve etik kurallara olan yansıması ne olacak?

Kelley: Bence otonom araç şirketlerinin odaklanması gereken temel şey, sağlam bir şekilde hukuku takip eden sistemler inşa etmektir. Eğer bunu yapabilirlerse, bence, “belli” etik kaygıların büyük çoğunluğu ele alınmış olacak. ‘Trolley etiğine’ duyulan ilginin yararlı olduğunu düşünmüyorum. Neyse ki bu ilgi azalıyor gibi görünüyor.

Çetin: Sizce bu teknolojinin geliştirilmesinde hangi hukuk nosyonlarını öncelikli kabul etmeliyiz?

Kelley: Trafik yasaları ile ilgili zor şeylerden biri insanlar düşünülerek yazılmış olması. Yazılı trafik yasalarını sık sık kesin maddeler olarak düşünüyoruz, ancak bunları gerçekten dikkatlice okuyunca, yorumlanması geren çok yer var. Bu, bilgisayarların zorlandığı bir şey, bu yüzden otonom bir aracın eksiksiz özellikleri ile ilgili beklentilerimizi netleştirmemiz gerekecek. Örneğin, otonom araçlar okuyabilmeli mi? Bu kulağa komik gelebilir, ancak şaşırtıcı miktardaki trafik kontrolü, sadece ezberlenemeyen yazılı işaretler kullanılarak yapılır. Eğer biz otonom araçların okuyabilmesi gerektiğine karar verirsek, o zaman hangi okuduğunu anlama seviyesine ihtiyacımız olacak? Tipik bir sürücünün okuma seviyesinde mi okuyabilmeliler? Bu yüksek bir standart gibi görünüyor; ancak, yasayı anlamak söz konusu olduğunda otonom araçlara yönelik beklentilerimizin ne olduğuna karar vermemiz gerekiyor.

Aynı zamanda, hükümetler, otonom araçların ve diğer robotların yasal kısıtları yükleyip anlamasını kolaylaştıracak yasaları sunmanın standart bir yolunu oluşturmayı başlayabilirse, bu muhtemelen yararlı olacaktır. Kanunların tek tip olmaları gerekmiyor, ancak hem Nevada’nın (bulunduğum yer) hem de Kaliforniya’nın yasalarının standart olarak okunabilir bir formatı olsaydı, her iki eyalette de çalışabilecek robotlar yapmak çok daha kolay olurdu.

Temel olarak, robotlar için “sürücü testi”nin nasıl olacağına karar vermemiz gerektiğini düşünüyorum. Bu, hükümetlerin ve özel şirketlerin birlikte çalışabileceği başka bir alan.

Çetin: Otonom araç kazalarındaki sorumluluk popüler tartışmalardan biri. Siz sorumluluk konusunda ne düşünüyorsunuz? Örneğin, yazılımcının öngöremediği bir durum gerçekleştiğinde sorumluluk sorunu nasıl çözülmeli?

Kelley: Genel olarak, bence, otonom araçların mükemmelleştirilmesinden dolayı sorumluluk *daha az* ilgi çekecek alanlardan biri. ABD Ulusal Karayolu Trafik Güvenliği İdaresi (NHTSA), ABD’deki kazaların nedenlerini belirlemek için 2005’ten 2007’ye kadar kapsamlı bir analiz gerçekleştirdi. NHTSA, neredeyse tüm (yüzde 94) kazaların insan hatasıyla oluştuğunu tespit etti. Temel olarak, insanlar kaçınılmaz olarak kötü kararlar veriyorlar. Otonom araçlar bu tür bir kazayı önledikten sonra, kalan sorunların (son yüzde 6) belirlenmesi daha kolay olacaktır. Otonom araçlardaki gelişmiş sensörler ve YZ sayesinde, yolda bir lastiğin patlamasına neden olabilecek “aşınma ve yıpranma” gibi şeyler bile şimdi olduğundan daha erken tespit edilir.

Kazalar olsa bile, muhtemelen uçak kazalarında olduğu gibi ele alınacaktır. Her çarpışmayla ilgili her arabada olan “kara kutular”, söz konusu olay kapsamında alınacak, hükümet ve otonom araç üreticileri tarafından gelecekte benzer kazaların önlenmesini sağlayacak şekilde dikkatli bir şekilde analiz edilecektir.

Çetin: Otonom araçların 5 seviyeden oluştuğunu biliyoruz. Kamuya açık bir yolda 5. seviye bir araba ne gibi problemler yaratabilir? Bunların üstesinden nasıl gelebiliriz?

Kelley: Direksiyon olmadan istediğiniz yere gidebileceğiniz- gerçek bir “seviye 5 otonomi”ye sahip araçların birkaç yıl (belki de onlarca yıl) uzakta olduğunu söylemek istiyorum. Ama bu teknolojiye sahip olduğumuzda, sanırım sorular “bu tür bir aracı konuşlandırabilir miyiz?”den, “Bu otonomluk seviyesinden en iyi şekilde nasıl faydalanırız?”a doğru değişecek. Otonom sistemlerin rolü neredeyse her zaman bazı faaliyetlerin maliyetini azaltmaktır. Seviye 5 otonom araçların durumunda, fiziksel ulaşım maliyeti azalacaktır. Bu ekonomik teşvikleri değiştirecek ve hatta yoldaki araç sayısını bile artırabilir. Buradaki zorluk, otonomluğun daha fazla yoğunluğa veya daha uzun seyahat süresine yol açmadığından emin olmaktır. Diğer önemli konu ise istihdam. Örneğin, ABD’de kamyon sürücüsü olarak çok sayıda insan istihdam edilmektedir. Seviye 5 teknolojisinin gelişiminin tüm bu insanları işsiz bırakmayacağından emin olmalıyız. Bu sebeple, başka türden işler yapmak için sürücüleri yeniden eğitmemiz gerekebilir.

Çetin: Trafiğin yoğun olduğu ve bazı araçların da otonom olmadığı büyük şehirlerde otonom araçlara karşı manuel sürücülerin önyargıları nasıl aşılabilir?

Kelley: İnsanlarla etkin bir şekilde başa çıkmak, bana göre, otonom araçların son ve en büyük teknik zorluklarından biridir. Otonom arabaları “sosyal olarak zeki” yapmak için hala çok fazla araştırma yapılması gerekiyor. Aslında bu, araştırmamın çoğunun şu anda odaklandığı nokta ve bence cevap için oyun teorisine bakmamız gerekir. Geleneksel olarak, oyun teorisi sonlu sayıda sonuçlarla iyi tanımlanmış rekabetçi durumları analiz etmek için kullanılır. Fakat oyunun teorik analizini sürüş alanına genişletmenin yolları var ve şu anda öğrencilerimden birkaç tanesiyle birlikte çalışarak aramızda bu tür bir analiz yapabilmekteyiz. Şu anda otonom araçlar çok ölçülü davranıyorlar, çünkü çoğunlukla diğer sürücülerin niyetlerini modellemiyorlar, bu yüzden bu sürücülerin nasıl tepki vereceğini güvenilir bir şekilde tahmin edemiyorlar. Ekibim, insanların nasıl davranacağını tahmin etmede iyi olan “niyet tanıma” sistemleri oluşturuyor ve bu sistemleri, aracımızın karar verme yazılımına dahil ediyoruz, böylece saldırgan insan sürücüler tarafından zorbalığa uğrama olasılığı daha düşük oluyor.

Çetin: Fütüristik bir soru sormak istiyorum. Otonom araçların gelecekteki ilerlemesi nasıl olabilir? Otonom araçlar için 5. seviyenin üstünde bir yazılım öngörebiliyor musunuz?

Kelley: Seviye 5 otonomisi hala uzun bir yol olsa da bence bu otonom araçlar için gerçekten sadece bir başlangıç. Otonom araçların üstüne inşa edilmiş büyük bir ekonomi olacağını umuyorum, aynı şekilde karmaşık bir ekonomi Internet ve Web çevresinde büyümüştü. Örneğin, ulaşım ağları ekonomisi yeniden değerlendirilmeli. Arabalar bağımsız olarak hareket edebildiğinde, bu araçların kabin içi kullanıcı deneyimini dikkatlice tasarlama ihtiyacı doğacaktır. Arabalarımız bizi gezdirirken, eğlenecek yeni yollar bulacağız (umarım bugün Web’de sahip olduğumuzdan daha az reklamla). Daha geniş anlamda, seviye 5 otonomisi sağlayacak teknolojinin normal otomobillerden daha faydalı olacağını düşünüyorum. Seviye 5 otonom arabalara sahip olduğumuzda, aynı teknoloji muhtemelen daha küçük otonom dağıtım araçları da kullanacak.

Çetin: Son olarak, çoklu veya tüm otonom araçları çalıştırabilecek kolektif ve merkezi bir yazılım olabilir mi? Bunun sonuçları ne olurdu?

Kelley: Bu gerçekten ilginç bir soru! İnsansız hava araçları (dronelar) alanında, esas olarak NASA’nın UAS Trafik Yönetimi (UTM) projesi ile merkezi trafik yönetim sistemleri üzerinde çok fazla araştırma yapılmıştır. Nevada Eyaleti’nde UTM araştırmasına katılarak birkaç yıl çalıştım ve NASA’nın yaptığı işin, robotiklerin yaygınlaştığı her alanda merkezi robot kontrol ağlarının nasıl gelişeceğinin bir şablonu olduğunu düşünüyorum. Bireysel şirketlerin filolarını yönetmek için kendi merkezi sistemlerine sahip olmalarını umuyorum. Dahası, yerel yönetimlerin burada bir rolü olması söz konusu olabilir. Birçok aracın merkezileştirilmiş kontrolünün, merkezi olmayan yaklaşımlardan daha verimli olabileceğine dair bazı kanıtlar var, bu yüzden önümüzdeki yıllarda bu tür bir soruna yönelik pek çok pratik araştırma ve deney görmeyi umuyorum.

Siber Bülten abone listesine kaydolmak için formu doldurunuz

Siber Savaş: Şehir Efsanesi mi Gerçek mi?

Bilgisayarların yaygınlaşması ile birlikte artan siber suçlar ve siber saldırı endişeleri, devletlerarası ilişkilerde yerini ‘siber savaş’ söylentilerine bıraktı.

Siber güvenlik ile ilgilenenlerin gayet iyi bileceği üzere dünyanın farklı ülkelerinde devletler ve ordular siber güvenlik üzerine yeni kurumlar oluşturuyor, doktrinler hazırlıyor, bu alanda yeni kabiliyetler kazanmaya çalışıyor ve hatta siber dünyada diğer ülkelere saldırılar düzenliyor. Hatta bazıları daha ileri giderek kendilerine rakip gördükleri ülkeleri baskı altına almaya çalışıyorlar.

Bazı akademisyenler, devlet adamları ve uzmanlar siber savaşın kaçınılmaz bir son olduğunu ve devletlerin bu sona kendilerini hazırlamaları gerektiğinden bahsediyor. Ancak, bu konudaki tartışma göründüğü kadar homojen değil, kimilerine göre siber savaş bir efsaneden başka bir şey değil ve hiçbir zaman gerçekleşmeyecek. Özellikle akademik çevrelerde King’s College London Savaş Çalışmaları Departmanı’ndan Profesör Thomas Rid’in ‘Cyber War Will Not Take Place’ (Siber Savaş Gerçekleşmeyecek) adlı makalesi bu konuda ciddi tartışmalara sebep oldu.

MİLYARCA DOLARLIK YATIRIM

Peki gerçekte durum ne? Devletler ve ordular siber dünyaya milyarlarca dolarlık yatırımı ne için yapıyor? Bu konu ile ilgilenenlerin aşina olduğu Stuxnet, Moonlight Maze gibi saldırılar gerçek anlamda bir siber savaş kavramının varlığını mı ortaya koyuyor? Yazının önümüzdeki kısımlarında bu soruya cevap arayacağım. Siber savaşın gerçek olup olmadığını anlamak için atılacak adımlardan ilki konuştuğumuz kavramın ne ifade ettiğinin farkında olmak. Dolayısıyla öncelikle siber savaş kavramının ne anlama geldiğini, özellikle ‘savaş’ denilen olgunun tam olarak ne olduğunu Calusewitz’in tanımlarından yararlanarak ortaya koymaya çalışacağım. Sonrasında ise Thomas Rid’in ve onu eleştirenlerin argümanlarını masaya yatıracağım. Son olarak ise sınıf arkadaşım Yanis Triqui’nin yazdığı bir yazıdan aldığım ilhamla siber savaşı değerlendirirken normal savaş kalıplarının dışına çıkarak yeni bir anlayış açısı kullanmanın siber dünyadaki mücadeleyi daha net anlamamıza yardım edeceği görüşünü ortaya koyacağım.

Siber savaşın ne olduğunu tanımlamadan önce savaş kavramının ne olduğuna açıklık getirmek bize bu konuda yardımcı olacaktır. Thomas Rid makalesinde Calusewitz’in savaş tanımını kullanıyor. Clausewitz’e göre bir hareketin ‘savaş’ olarak değerlendirilebilmesi için üç adet ana elemente ihtiyaç vardır. Birincisi savaş şiddet unsuru içermelidir, zira savaşın amacı şiddet kullanarak bir tarafın öbür tarafa dilediğine yaptırması durumudur. Dolayısıyla şiddet içermeyen durumlar savaş olarak sayılamaz.

İkincisi, savaş bir amaç değil araçtır(enstrüman). Bu nedenle, savaş keyfi olarak iki tarafın birbirine şiddet uygulamasından ziyade tarafların kendi amaçlarına ulaşabilmek için kullandıkları bir araç görevi görmelidir.

Son olarak ise savaş sadece herhangi bir amaca değil, siyasi bir amaca hizmet etmelidir. Yani savaşın sonunda kazanan tarafın siyasi olarak kazançlı durumda olması gerekir.[1]

SİBER SALDIRILAR ÜÇE AYRILIYOR

Thomas Rid’e göre şimdiye kadar gerçekleşen siber saldırılardan hiç biri savaşın bu üç şartını (şiddet, daha büyük bir amaç için enstrüman olmak görevi ve siyasi amaç) karşılamamaktadır ve gelecekte de karşılaması olası gözükmemektedir. Rid, bugüne kadar gerçekleşen en bilindik siber saldırıları değerlendiriyor ve neden bunların siber savaş olarak tanımlanmaması gerektiğini açıklıyor. Ben bu yazıda hepsinin üzerinden tek tek geçmeyeceğim ancak şunu belirtmek gerekir ki Thomas Rid’in her örnek olay için verdiği sebepler oldukça ikna edici gözüküyor. Genel olarak değerlendirildiğinde bugüne kadar yaşanmış olan Sibirya boru hattı patlaması, Stuxnet, Estonya’nın internet altyapısına yapılan saldırılar gibi olayların hiçbirisi yukarıda tanımlanan ve Clausewitz’e dayanan savaş kavramı ile bağdaşmıyor.

Bunun yerine, Thomas Rid gerçekleşen bu siber saldırıları sabotaj, espiyonaj, ve yıkım (subversion) olarak üçe ayırıyor. Bunlardan ilki, yani sabotaj düşman ekonomik ve askeri altyapıları yıpratmak için yapılan saldırılar anlamına geliyor ve Thomas Rid’e göre Stuxnet saldırısı bu türün en belirgin örneklerinden birisi olarak öne çıkıyor.[2]

İkinci olarak espiyonaj ise düşman bilgisayar sistemlerinden bilgi çalmak amacı ile yapılan saldırıları kapsıyor. Moonlight Maze ve Titan Rain gibi olaylar bu kategoriye örnek olarak gösterilebilir. Son olarak yıkım (subversion) ise hedef otoritenin toplum gözündeki saygınlığına zarar vermek amaçlı yapılan saldırılar anlamına geliyor. Estonya’nın hükumet ve banka altyapılarına Rus hackerlar tarafından 2007’de gerçekleştirilen saldırılar ise bu tip olaylar için iyi bir örnek olarak gösterilebilir.[3]

Ancak herkes aynı fikirde değil. Bazı akademisyenler Thomas Rid’in siber savaş ve özellikle ‘savaş’ konseptlerini değerlendiriş şeklini hatalı buluyor. Örneğin, bir başka King’s College London akademisyeni olan John Stone özellikle Thomas Rid’in Calusewitz üzerine kurulu savaş tanımının yanlış olduğunu ve Rid’in Clausewitz’i yanlış anladığını öne sürüyor[4]. Stone’a göre Thomas Rid güç, şiddet ve ölüm gibi kavramları birbirlerinin yerine kullanarak neyin savaş olarak tanımlanabileceği konusunda önemli bir yanılgıya düşüyor ve savaşı çok spesifik olarak tanımlıyor. Genel olarak bu konu Rid’in en çok eleştiri aldığı noktalardan birisi. Yirmi birinci yüzyılda oldukça dar bir savaş tanımı kullanması ve bu dar tanımı siber dünya gibi soyut ve henüz tam anlamıyla uluslararası ilişkiler disiplini içerisinde kendi yerini tam olarak bulamamış bir alana uygulamaya kalkması onun argümanını zayıflatan bir unsur olarak ön plana çıkıyor.

Öte yandan Rid’in neden böyle bir yönteme başvurduğu da kendi içerisinde anlaşılabilir bir durum. Eğer bir olayı tanımlamak istiyorsanız önce o olayı anlatırken kullandığınız kelimeleri tanımlamak oldukça mantıklı bir seçenek, Thomas Rid bu bağlamda konuyu akademik bir düzleme oturtmaya çalışmak ile yanlış bir şey yapmıyor. Ancak var olan tartışma ortaya koyuyor ki bu konu klasik anlamdaki uluslararası ilişkiler ve savaş literatürüne adapte etmesi kolay bir konu değil. Bu yüzden var olan kalıpların dışına çıkıp eldeki duruma farklı bir bakış açısı getirmek gerekiyor.

Dolayısıyla ‘siber savaş’ kavramını klasik anlamda Clausewitz’in savaş tanımı üzerinden tartışmak yerine bugün bu kavram devletler için ne ifade ediyor, devletler siber savaşı devlet yönetişimi (statecraft) içerisinde ve fiziki savaş anlarında nasıl kullanıyor gibi sorulara cevap aramak daha faydalı olacaktır. Sınıf arkadaşım Yanis Triqui bu konu üzerine bir dönem ödevi yazarak daha derli toplu bir çalışma ortaya koydu. Yanis makalesinde siber savaşı genel olarak savaş kavramından ayrı değerlendirmekten ziyade devletlerin siber aktiviteleri kullanarak gerek askeri gerekse siyasi stratejilerinde nasıl kendilerine avantaj sağladığından bahsediyor.[5]

DEVLETLER, SİBER GÜÇLERİNİ KENDİ STRATEJİLERİNE GÖRE KULLANIYOR

Bana kalırsa bu doğru bir yaklaşım. Günümüzde devletler siber savaşı kendi içerisinde bağımsız bir alan gibi görmekten ziyade ellerindeki siber güç kapasitesini kendi stratejilerine uygun olarak kullanmaya çalışıyorlar. Örneğin ABD ve İsrail Stuxnet saldırısını gerçekleştirdiğinde amaçları İran’a karşı bir siber savaşa girişmekten ziyade İran’ın nükleer enerji (ve muhtemelen silah) geliştirme programını aksatma hedefi güdüyorlardı ve bu girişimlerinde başarılı oldukları pekâlâ söylenebilir. Benzer olarak bugün silahlı kuvvetler bünyesinde kurulan ‘siber ordu’ birimleri kendi başına bir savaş aracı olmaktan ziyade ordunun bilgi toplama, eldeki bilgiyi koruma, düşman tesislerine zarar verme gibi orduların daha geniş amaçlarına hizmet etme görevi görüyorlar.

Bu konuda verilebilecek en somut örneklerden birisi Rusya. Sovyetler Birliği’nin Soğuk Savaş’ı kaybetmesinin ardından gerek siyasi gerekse askeri anlamda Batı ve Amerika’ya karşı kaybettiği rekabet gücünü yavaş yavaş geri kazanırken siber gücü bu konuda önemli bir rol oynuyor. Bu konu çeşitli defa medyada dile getirilmesine karşılık geçtiğimiz günlerde yayınlanan bir Wall Street Journal makalesi bu konuya bir kez daha dikkat çekerek Rusların siber alandaki başarılarının altı çiziliyor[6]. Rusya siber yeteneklerini yalnızca askeri ve istihbarat alanlarında kullanmakla kalmıyor, aynı zamanda internet üzerinde bir ‘troll’ ordusu kurarak uluslararası haber platformlarında Rusya ile ilgili yayınlanan makalelere ülkeleri ve devletleri hakkında olumlu yorumlar yaptırarak kendilerine göre bir ‘bilgi savaşı’ (Information Warfare’ yürütüyorlar. Bu bağlamda siber savaşı 19. Yüzyıldaki muharebe anlayışının dışında değerlendirilip bir devlet yönetişimi (statecraft) unsuru olarak görmek devletlere ve karar yapıcılara sunduğu geniş olanakların farkına daha iyi bir şekilde varmamıza olanak sağlıyor.

SİBER SAVAŞ BİR ENSTRÜMAN

Sonuç olarak, siber dünya sadece biz sıradan kullanıcılar için değil, devlet için de yeni ve henüz keşif aşamasında olan bir diyar. Devletlerin burada neleri hali hazırda yapabildikleri ya da neler yapabileceklerini kestirmek güç. Ancak sosyal bilimlerde siber savaş kavramının gerçek anlamda bir savaş düşüncesi kalıbından dışarı çıkarak devlet yönetişiminde karar alıcılara sunulan bir araç olarak değerlendirmek bize devletlerin siber dünyadaki rolünü anlamamızda önemli bir katkıda bulunacaktır.

______________________________________________________________________________________________________

[1] Thomas Rid, Cyber War Will Not Take Place, sf. 7-8

[2] Thomas Rid, sf. 16-19

[3] Thomas Rid

[4] John Stone, 2013. Cyber War Will Take Place. Journal of Strategic Studies.

[5] Yanis Triqui, 2016. Is there such a thing as cyberwar? Does the debate matter?

[6] Nathan Hodge ve Julian E. Barnes, 2017. The New Cold War Pits A US General Against His Longtime Russian Nemesis. The Wall Street Journal. Link: https://www.wsj.com/articles/the-new-cold-war-pits-a-u-s-general-against-his-longtime-russian-nemesis-1497623852

Siber Zorbalık Nedir? Neden Ortaya Çıkar?

Teknolojinin gelişmesi ve artık internet ortamına daha kolay erişim imkânları beraberinde siber zorbalık olaylarının daha sık yaşanmasına yol açtı. Özellikle akıllı telefon ve tablet kullanım yaşının oldukça küçük yaşlara düşmesi, siber zorbalık gibi dijital dünyanın zararlarından  daha çok çocukların zarar gördüğünü ortaya koydu.

Siber zorbalık; kişi veya kişilerin internet iletişim yöntemleri üzerinden, kendini tek başına savunması imkansız bir kişiye yönelik yapmış oldukları, agresif ve bilinçli eylemlerin tümüne verilen addır.

Siber zorbalığa uğramış kişiler, kurumlar ve çocuklar gelecekte siber zorbalığın doğurduğu sorunlar ile uğraşmak zorunda kalmaktadır.

Siber zorbalık aslında klasik zorbalıkla benzerdir. Buradaki tek fark zorbalık yapan kişinin kimliğinin bilinmemesidir. Gerek kurbanı hedef alan mesaj veya fotoğraflar gerekse bu verilerin internet dünyası üzerinde kalıcı hale getirilmesi, hedef alınan kişi üzerinde derin izler bırakmaktadır.

Sosyal Medyada Siber Zorbalık

Son yıllarda yaşanan siber zorbalık olaylarının çoğunlukla sosyal medya platformlarında meydana geldiği görülmektedir. Sosyal medya kullanımının hızlı artış göstermesiyle siber zorbalığa maruz kalan kişi sayısının da arttığı gözlendi.

Facebook, Instagram, WhatsApp, Twitter gibi en çok kullanılan sosyal medya mecralarına ne yazık ki 18 yaş altı çocuklar da giriş yapmakta ve buralarda ortalamanın üzerinde vakit geçirmektedir. Bununla birlikte, zorbalık yapacak ve o kişinin çocukluk aklından yararlanarak kötü işler yapma peşinde olan zorbalarda kötülüklerine devam etmektedir.

Yaşanmış bir siber zorbalık örneğine burada yer vermek gerektiğine inanıyorum. Facebook’ta kendi fotoğrafını paylaşan 15 yaşında bir kız çocuğun bu fotoğrafını kopyalayıp, farklı programlarla montajlayarak kötü işlere alet eden sapık zihniyetli bir kişi ile yaşamış olduğu diyalogları inanın okumak bile istemezsiniz.

Siber Zorbalığa Neden Maruz Kalınıyor?

Yaşanan siber zorbalık olaylarına neden bu denli maruz kalındığının arkasında iki önemli faktör bulunmaktadır.

Hem internet kullanım yaş grubunun oldukça aşağılara düşmesi, hem de ailelerin çocuklarıyla ilgilenmemesi ve eline internet erişimine sahip bir cihaz verip onu yalnız bırakması, aslında bu sorunun en net cevabı olacaktır.

Çok masum gibi gözüken internetli oyunlarda bile maalesef siber zorbalık yaşanmaktadır. Çocuklarınızın oynadığı internetli oyunlarda sohbet odalarından gelen kameralı görüntü isteği ise yaşanabilecek en büyük siber zorbalık olaylarına kapı aralamaktadır.

Siber zorbalık yalnızca çocukları değil yetişkinleri, kurumları, markaları da hedef alan bir itibar karalama yöntemidir. Zaman zaman kişinin onurunu, hassasiyetini yerle bir etmek için yalan yanlış dedikodular çıkaran siber zorbalara da sıklıkla rastlanabilir.

Yapılan araştırmalarda siber zorbalığa maruz kalan kişi üzerinde, özgüven sorunu, intihara meyilli olma, duygu durumunda bozukluklar meydana gelerek kişinin hayat üzerinde çekingen olma gibi sorunların ortaya çıktığı görülmüştür.

Bu yüzden siber zorbalığa karşı çok boyutlu ve kurumsallaşmış bir kampanyanın başlatılması gelecek kuşaklar için yapmamız gereke ödevlerin başında yer almaktadır.