Yapay zeka devi OpenAI firmasının sohbet robotu ChatGPT’nin kullanıcı hesap bilgilerine sahip yüz binden fazla cihaza hırsızlık yazılımı (infostealer) bulaştığı ortaya çıktı.
Singapur merkezli Siber Güvenlik firması Group IB araştırmacılarının raporuna göre, 101 bin 134 cihaza bulaşan info stealer yazılımının yapay zeka firması Open AI tarafından geliştirilen sohbet robotu ChatGPT’ye kayıtlı hesap bilgilerini ele geçirdi.
ChatGPT kimlik bilgilerine sahip hırsızlık yazılımı bulaşmış en çok sayıda cihazın bulunduğu bölgeler arasında Orta Doğu ve Afrika bölgesi ikinci sırada yer aldı. En çok hesap bilgisi çalınan ülkeler arasında ise ilk 3 sırada Hindistan, Pakistan ve Brezilya yer aldı.
Söz konusu bölgede, Mısır, Cezayir, Türkiye, Kenya ve Nijerya en çok etkilenen ülkeler arasında yer alıyor. Türkiye ise en çok etkilenen 4. ülke oldu.
Group-IB araştırmacıları, Türkiye’de 1.922 ChatGPT hesabının kimlik bilgilerine sahip cihaz tespit etti.
ChatGPT kullanıcı bilgileri, son bir yıl içinde dark web üzerinde ticareti yapılan info stealer yazılmların sistem günlüklerinde (log) bulundu. ChatGPT hesaplarını içeren logların çoğunluğu, Racoon infostealer tarafından ihlal edildi. Çalınan ChatGPT hesaplarını içeren logların sayısı Haziran 2022 ile Mart 2023 arasında sürekli olarak artış gösterdi.
INFOSTEALER YAZILIMLAR NASIL BULAŞIYOR?
Infostealer yazılımlar, internet tarayıcılarda kaydedilen kişisel bilgileri, kredi kartı, kripto cüzdan, gezinme geçmişi gibi verileri topluyor.
Toplanan veriler siber tehdit aktörlerine gönderen zararlı yazılımlar ayrıca anlık mesajlaşma uygulamaları ve e-postalardan da veri toplayabilir ve hedefteki cihaz hakkında detaylı bilgiler elde edebiliyor.
Genellikle oltalama ve benzer yöntemlerle yayılan infostealer yazılıımlar, hedef seçmeden mümkün olduğunca çok bilgisayara bulaşıyor. Basit yapısı nedeniyle kolay üretilen zararlı yazılımlar elde edilen bilgiler dark web üzerinde siber tehdit aktörler tarafından satışa çıkarılıyor.
OpenAI tarafından geliştirilen ChatGPT herkesin dilinde. Peki dillerden düşmeyen ChatGPT’nin geliştirilmesinin arkasındaki kadın kim?
Mira Murati, yapay zeka (AI) dünyasında tanınmaya başlayan bir isim. Arnavutluk’ta doğup büyüyen Murati, yapay zeka teknolojisinin gelişimine önemli katkılarda bulunmuş bir kadın.
Hâlihazırda dünyanın önde gelen yapay zeka araştırma enstitülerinden biri olan OpenAI’de Baş Teknoloji Sorumlusu (CTO) olarak görev yapıyor.
Murati, makinelerle etkileşim kurma şeklimizde devrim yaratan bir yapay zeka dil modeli olan ChatGPT’nin geliştirilmesinin arkasındaki beyin olarak biliniyor.
BİLİM VE TEKNOLOJİYE HEP HAYRANLIK DUYDU
1986 yılında Arnavutluk’ta doğan Murati, küçük bir kasabada büyüdü ve her zaman bilim ve teknolojiye hayranlık duydu.
Murati, eğitimini bilgisayar bilimleri alanında Tiran Üniversitesi’nde tamamladı ve onur derecesiyle mezun oldu.
Lisans eğitimini tamamladıktan sonra Dartmouth College’da Bilgisayar Bilimleri alanında yüksek lisans yapmak üzere ABD’ye taşındı.
EN ÖNEMLİ KATKISI YAPAY ZEKAYI İNSANA BENZETMESİ
Murati, yüksek lisansını tamamladıktan sonra yapay zeka alanında çalışmaya başladı. OpenAI’ye 2016 yılında katıldı ve kısa sürede yetenekli ve yenilikçi bir mühendis olarak adından söz ettirdi. 2019 yılında OpenAI’nin Baş Teknoloji Sorumlusu olarak atandı ve bu görevi hâlen sürdürüyor.
OpenAI’nin CTO’su olarak Murati, enstitüdeki yapay zeka teknolojisinin araştırma ve geliştirmesini denetleme görevini üstleniyor.
Son teknoloji yapay zeka modelleri ve uygulamaları geliştirmek için mühendisler ve araştırmacılardan oluşan bir ekiple birlikte çalışıyor.
En önemli katkılarından biriyse, kullanıcılarla insan benzeri konuşmalar yapabilen bir yapay zeka dil modeli olan ChatGPT’nin geliştirilmesi.
MURATİ’NİN ESERİ: ChatGPT
ChatGPT, Murati ve ekibi tarafından OpenAI’de geliştirilen bir yapay zeka dil modeli olarak biliniyor. Model, doğal dil metni oluşturmak için derin öğrenme tekniklerini kullanan GPT-3 (Generative Pre-trained Transformer 3) mimarisine dayanıyor.
ChatGPT, kullanıcı girdilerine insan benzeri yanıtlar üretmesini sağlayan devasa bir metin veri kümesi üzerinde eğitiliyor. ChatGPT doğal, insan benzeri konuşmalar yapabilme becerisiyle geniş kesimler tarafından da övgüler almaya devam ediyor.
Müşteri hizmetleri sohbet robotları, dil çeviri hizmetleri ve hatta sanal terapi seansları da dâhil olmak üzere çeşitli uygulamalarda kullanılan ChatGPT’nin geliştirilmesi, yapay zekanın iletişimde kullanımı için yeni olanaklar yarattı ve yapay zeka teknolojisinin daha geniş bir kitle için daha erişilebilir olmasına yardımcı oldu.
Yeteneği ve yenilikçi düşüncesiyle Murati, önümüzdeki yıllarda da yapay zekâ alanına önemli katkılarda bulunmaya devam devam edeceğini ifade ediyor.
Yapay zekâ araştırma kuruluşu OpenAI, birçok ülkede yasaklara sebep olan sistemlerindeki güvenlik açıklarını tespit etmek ve gidermek için Bug Bounty programını başlattığını duyurdu.
Program, güvenlik araştırmacıları, etik hackerlar ve teknoloji meraklılarından oluşan küresel topluluğu OpenAI’nin yapay zekâ sistemlerinin güvenli ve emniyetli kalmasına destek olunması için katılım göstermeye çağırdı.
BUGCROWD İLE ORTAKLIK KURULDU
Herkese fayda sağlayan yapay zekâ sistemleri yaratma misyonuyla hareket eden OpenAI, bu amaca ulaşmak için de yapay zekâ sistemlerinin emniyetini ve güvenliğini sağlamak için araştırma ve mühendisliğe büyük yatırımlar yapmasıyla biliniyor.
Bug Bounty programını tanıtan OpenAI, güvenlik araştırmacılarını sistemlerinde keşfettikleri zafiyetleri, hataları veya güvenlik kusurlarını bildirmeye davet ediyor.
Geçtiğimiz Kasım ayında yapay zeka araştırma şirketi OpenAI tarafından kullanıma açılan ve herkesin konuştuğu yapay zeka sohbet robotu CHATGPT siber suçluların elinde büyük bir tehdit aracı haline gelebilir mi?
Kurucuları arasında Elon Musk’ın da yer aldığı OpenAI, Kasım 2022’nin sonunda Büyük Dil Modeli (LLM) için yeni arayüz olan ChatGPT’yi yayımladı. Bu girişimin ardından yapay zekaya ve olası kullanımlarına yönelik muazzam bir ilgi meydana geldi. Ancak bununla birlikte, ChatGPT’nin siber tehdit ortamına da katkısı olduğu düşünülüyor, zira kod oluşturmanın daha az yetenekli tehdit aktörlerinin zahmetsizce siber saldırılar başlatmasına yardımcı olabileceği ortaya çıktı.
ChatGPT’nin ikna edici bir kimlik avı e-postası oluşturmaktan, İngilizce komutları kabul edebilen bir ters kabuk çalıştırmaya kadar tam bir bulaşma akışını nasıl başarıyla gerçekleştirdiğini anlatan Check Point Research’ün (CPR), bu kez bunun sadece varsayımsal bir tehdit mi olduğu yoksa OpenAI teknolojilerini kötü niyetli amaçlar için kullanan tehdit aktörlerinin hali hazırda olup olmadığını sorgulayan bir yazı yayınladı.
CPR’ın bir takım büyük yeraltı bilgisayar korsanlığı topluluğu üzerinde yaptığı analiz, siber suçluların kötü niyetli araçlar geliştirmek için hali hazırda OpenAI’yi kullandıklarını gösteriyor. Bazı vakalar OpenAI kullanan birçok siber suçlunun hiçbir geliştirme becerisine sahip olmadığını da açıkça gösteriyor. Yapılan analiz daha sofistike tehdit aktörlerinin yapay zeka tabanlı araçları kötü amaçlı kullanma yöntemlerini geliştirmelerinin an meselesi olduğuna da işaret ediyor.
INFOSTEALER’IN OLUŞTURULMASI YA DA KÖTÜ AMAÇLI YAZILIMIN FAYDALARI
29 Aralık 2022’de, popüler bir yeraltı bilgisayar korsanlığı forumunda “ChatGPT – Kötü Amaçlı Yazılımın Faydaları” adlı bir başlık atılmış. Başlığı atan kullanıcı, araştırmalarda ve yaygın kötü amaçlı yazılımlarla ilgili yazılarda açıklanan kötü amaçlı yazılım türlerini ve tekniklerini yeniden oluşturmak için ChatGPT ile deneyler yaptığını belirtiyor. Örnek olarak, yaygın dosya türlerini arayan, bunları Temp klasörünün içindeki rastgele bir klasöre kopyalayan, ZIP’leyen (sıkıştıran) ve kodlanmış bir FTP sunucusuna yükleyen Python tabanlı bir hırsızın kodunu paylaşıyor.
“CHATGPT KULLANARAK NASIL BİLGİ HIRSIZI OLUŞTURULUYOR?”
Komut dosyası üzerinde yapılan analiz, siber suçlunun iddialarını doğruluyor. Gerçekten de sistemde 12 yaygın dosya türünü (MS Office belgeleri, PDF’ler ve resimler gibi) arayan temel bir hırsızlık aracı söz konusu. İlgilenilen herhangi bir dosyanın bulunması halinde, siber suçlu kötü amaçlı yazılım dosyalarını geçici bir dizine kopyalıyor, sıkıştırıyor ve web üzerinden gönderiyor. Tehdit aktörünün dosyaları şifreleme veya güvenli bir şekilde gönderme zahmetine girmediğini belirtmek gerekiyor. Bu da dosyaların 3. tarafların da eline geçebileceğini gösteriyor.
Aynı tehdit aktörünün ChatGPT kullanarak oluşturduğu ikinci örnek, basit bir Java parçacığı. Çok yaygın bir SSH ve telnet istemcisi olan PuTTY’yi indiriyor ve Powershell kullanarak sistemde gizlice çalıştırıyor. Bu komut dosyası elbette yaygın kötü amaçlı yazılım aileleri de dahil olmak üzere herhangi bir programı indirmek ve çalıştırmak için değiştirilebiliyor.
FİDYE YAZILIMINA DÖNÜŞEBİLİR
21 Aralık 2022’de USDoD adlı bir tehdit aktörü, oluşturduğu ilk komut dosyası olduğunu vurguladığı bir Python komut dosyası yayınladı. Başka bir siber suçlu, kodun tarzının OpenAI koduna benzediği yorumunu yaptığında USDoD, OpenAI’nin kendisine “betiği güzel bir kapsamla bitirmesi için yardım eli” uzattığını doğruluyor.
CPR’nin betik üzerinde yaptığı analiz, bunun kriptografik işlemler gerçekleştiren bir Python betiği olduğunu doğruluyor. Betik ilk bakışta zararsız görünse de çeşitli farklı işlevler uyguluyor:
Betiğin ilk kısmı, dosyaları imzalarken kullanılan bir kriptografik anahtar (özellikle eliptik eğri kriptografisi ve ed25519 eğrisini kullanıyor) üretiyor.
Betiğin ikinci kısmı, sistemdeki dosyaları Blowfish ve Twofish algoritmalarını aynı anda hibrit modda kullanarak şifrelemek için sabit kodlanmış bir parola kullanan işlevler içeriyor. Bu fonksiyonlar kullanıcının belirli bir dizindeki tüm dosyaları ya da bir dosya listesini şifrelemesini sağlıyor. Betik ayrıca RSA anahtarlarını kullanıyor, PEM formatında saklanan sertifikaları, MAC imzalamayı ve karmaları karşılaştırmak için blake2 karma işlevini kullanıyor.
Yukarıda bahsedilen tüm kodlar elbette iyi niyetli kullanılabilir. Ancak, bu komut dosyası herhangi bir kullanıcı etkileşimi olmadan birinin makinesini tamamen şifrelemek için de kolayca değiştirilebiliyor. Örneğin, komut dosyası ve sözdizimi sorunları giderilirse kodu fidye yazılımına dönüştürme potansiyeli bulunuyor.
Bir geliştirici olmadığı ve sınırlı teknik becerilere sahip olduğu anlaşılan UsDoD buna rağmen yeraltı topluluğunun çok aktif ve saygın bir üyesi. UsDoD, güvenliği ihlal edilmiş şirketlere ve çalınmış veri tabanlarına erişim satmayı da içeren çeşitli yasadışı faaliyetlerde bulunmakta. USDoD’nin yakın zamanda paylaştığı önemli bir çalıntı veri tabanının sızdırılmış InfraGard veri tabanı olduğu iddia ediliyor.
ChatGPT’nin dolandırıcılık faaliyetlerinde kullanılmasına ilişkin bir başka örnek de 2022 yılbaşı gecesi yayınlanmış ve farklı türde bir siber suç faaliyetini ortaya koymuş. İlk iki örnek daha çok ChatGPT’nin kötü amaçlı yazılım odaklı kullanımına odaklanırken, bu örnek “Dark Web Marketplaces komut dosyaları oluşturmak için ChatGPT’yi kötüye kullanma” başlıklı bir tartışmayı gösteriyor. Bu başlık altında siber suçlu, ChatGPT kullanarak bir Dark Web pazaryeri oluşturmanın ne kadar kolay olduğuna işaret ediyor.
Pazar yerinin yeraltı yasadışı ekonomisindeki ana rolü, çalıntı hesaplar veya ödeme kartları, kötü amaçlı yazılımlar ve hatta uyuşturucu ve mühimmat gibi yasadışı veya çalıntı malların otomatik ticareti için tüm ödemelerin kripto para birimleriyle yapıldığı bir platform sağlamak. ChatGPT’nin bu amaçlarla nasıl kullanılacağını göstermek için siber suçlu, Dark Web piyasası ödeme sisteminin bir parçası olarak güncel kripto para birimi (Monero, Bitcoin ve Etherium) fiyatlarını almak için üçüncü taraf API kullanan bir kod parçası yayınlıyor.
2023’ün başında, bazı siber tehdit aktörleri, ChatGPT’nin dolandırıcılık planları için nasıl kullanılacağına odaklanan ek yeraltı forumlarında tartışmalar başlattı. Bunların çoğunun, başka bir OpenAI teknolojisi (DALLE2) ile rastgele sanat eserleri üretmeye ve bunları Etsy gibi meşru platformları kullanarak çevrimiçi satmaya odaklandığı görülüyor. Başka bir örnekte, tehdit aktörü belirli bir konu için nasıl e-kitap veya kısa bölüm oluşturulacağını (ChatGPT kullanarak) açıkladığı ve bu içeriği çevrimiçi olarak sattığı görülüyor.
ChatGPT yeteneklerinin Dark Web katılımcıları için yeni favori araç haline gelip gelmeyeceğine karar vermek için henüz çok erken. Bununla birlikte, siber suçlu topluluğu bu yeni teknolojiye şimdiden büyük bir ilgi göstermiş durumda.
