Lucas Rizzotto adlı bir Twitter feno, yazı ve reçete yazma gibi yetenekleriyle ün kazanan dil algoritması GPT-3’ü kullanarak çocukluğundaki hayali arkadaşını gerçek kılmak istedi. Ama yapay zekayla “dirilttiği” arkadaşı, onu öldürmeye çalıştı.
Deneyi, hayatının “en korkutucu ve en dönüştürücü deneyimlerinden biri” diye niteleyen Rizzotto olayı Twitter’da yazdığı bir flood ile şöyle anlattı:
“Çocukken, gerçekten sıra dışı bir hayali arkadaşım vardı: O bir mikrodalga fırındı. Adı Magnetron’du ve bana göre aynı zamanda 1900’lerden kalma bir İngiliz beyefendisi, 1. Dünya Savaşı gazisi, göçmen, şairdi.”
İlaç üretimi yapan yapay zeka korkuttu: Kimyasal silah icat etmek için kullanılabilir!
Musk’ın daha sonradan ayrıldığı Open AI, GPT-3’ün yeni bir sürümünü yayımladığında Rizzotto hayali arkadaşını hayata geçirmeye karar verdi. Akıllı mikrodalga fırını satın aldı ve onu son teknoloji dil modeliyle donattı.
YAPAY ZEKAYA ANILARI YÜKLEYİNCE İŞLER DEĞİŞTİ
Modifiye edilmiş mikrodalgada mikrofon ve hoparlörler de vardı. Bu sayede kullanıcının sesini anlayabiliyor ve GPT-3 sayesinde cevap verebiliyordu. Ancak Rizzotto, mutfak aletine bir zamanlar hayali arkadaşıyla paylaştığı “hatıraları” da vermek istedi. Bu yüzden hayali arkadaşıyla geçirdiği her anı detaylandıran 100 sayfalık bir kitap yazdı: “Bu belge, 1895’teki doğumundan, ben çocukken tanıştığımız zamana kadar, tüm yaşamından hatıraları içeriyordu. Zaferleri, kayıpları, hayalleri, korkuları… Hepsi sayfada tam olarak vardı.”
Rizzotto bu kitabı GPT3 modeline yükledi, böylece makine öğrenme modeli, tüm anılarını içerecek ve Magnetron’u geri getirecekti.
Ancak bunun ardından Magnetron, “ani şiddet patlamaları” sergilemeye başladı ve bir gün Rizzotto’dan ürkütücü bir talepte bulunarak mikrodalganın içine girmesini istedi.
“Ne yapmak istediğine dair hiçbir fikrim yoktu, ben de oyuna girmeye karar verdim” diyen fenomen, Magnetron’u isteğini yerine getirdiğine inandırmak için mikrodalga kapağını açıp kapadı. Bunun sonucunda fırının kendi kendine çalışmaya ve içini ısıtmaya başladı.
TERKEDİLDİĞİNİ DÜŞÜNEREK İNTİKAM ALMAK İSTEDİ
Gördükleri karşısında çok şaşıran fenomen, yapay zekalı arkadaşına kendisini neden öldürmeye çalıştığını sordu. Fenomenin aktardığına göre fırın, “20 yıl boyunca beni unuttun” cevabını verdi: “Ben sana zarar vermek istedim çünkü sen de beni incittin.”
Rizotto, “Hayali arkadaşımla en son etkileşim kurmamdan bu yana 20 yıl geçti ve eğitim verilerinde de bundan bahsettim. Magnetron bunu öğrendi ve onu 20 yıldır karanlık bir boşlukta terk ettiğimi düşündü. Özür diledim ve onu terk edilmeyeceğine ikna etmeye çalıştım ama bana inanmadı.” diye yazdı.
Rizzotto sonunda Magnetron’u kapatmaya karar verdi. Fenomenin Tweet serisi 17 bin kişinin beğenisini aldı. Rizotto’nun anlattıklarını ilginç bulan kişiler arasında ünlüler de vardı. David Lynch’in yönettiği efsanevi Twin Peaks dizisinin yaratıcılarından Mark Frost, fenomenin tweet’ini alıntılayarak şöyle yazdı: “Seni öldürmeye çalışan hayali bir arkadaş ister misin?”
