Fortune 500 şirketleri, çalışanların kendi başına ürettiği yapay zekâ ajanlarının sayısının patlamasıyla birlikte ortaya çıkan yeni bir yönetişim ve siber güvenlik sorunuyla yüzleşiyor. Uzmanlar, önümüzdeki iki yıl içinde ortalama bir küresel devin 150 binden fazla AI ajanı çalıştıracağını öngörüyor ancak kuruluşların yalnızca yüzde 13’ü bu ajanları yönetebilecek yapıya sahip olduğunu düşünüyor.
Wall Street Journal’ın bu hafta yayımladığı bir habere göre, Lyft’ten DaVita’ya, GitLab’dan FICO’ya kadar pek çok büyük şirket, kurumsal teknoloji literatürüne yeni giren bir terimle boğuşuyor: “AI agent sprawl” yani yapay zekâ ajanlarının kontrolsüz yayılımı. Sorunun özü, ajan yaratmanın artık teknik olmayan çalışanlar için de son derece kolay hale gelmesinde yatıyor. Anthropic’in Claude Cowork platformu ile birden fazla ajanı koordine etmeye yarayan açık kaynaklı OpenClaw aracı, bu kolaylığın başlıca sürükleyicileri arasında gösteriliyor.
Kolay Erişim
Aynı işi yapan onlarca ajan
Sorun yalnızca bir nicelik meselesi değil. Aynı görevi farklı biçimlerde yerine getiren, birbiriyle çelişen çıktılar üretebilen, kurumsal sistemler üzerinde belirsiz yetkilerle çalışan ajanların çoğalması, bilgi işlem birimleri açısından ciddi bir siber güvenlik ve yönetim sorununa dönüşüyor. Üstelik bu ajanların her biri token tüketiyor; yani görünmez bir maliyet kalemi şirketlerin bütçesine yerleşiyor.
Ben & Jerry’nin de sahibi olan Magnum Ice Cream’in Amerika Bilgi İşlem Direktörü Michael Friedlander, şirketin er ya da geç tüm bu ajanları merkezileştirip konsolide etmesi gerekeceğini söylüyor ancak çalışanların yaratıcılığını boğmadan diye de ekliyor. Friedlander’ın altını çizdiği soru, pek çok CIO’nun aklındaki kaygıyı özetliyor: Token tüketimi ve bunun beraberinde getireceği maliyet, finansal olarak sürdürülebilir bir modele nasıl oturtulacak?
“Her gün, hiyerarşinin her katmanında yeni ajanlar”
FICO adıyla bilinen Fair Isaac şirketinin Müşteri ve Bilgi İşlem Direktörü Mike Trkay, durumu daha çarpıcı biçimde tarif ediyor: 3.500 çalışanlı şirketinde her gün düzinelerce yeni ajan üretiliyor ve bu üretim, organizasyonun neredeyse her kademesinde eş zamanlı sürüyor. E-posta yönetimi gibi bireysel görevler için kurulan küçük ajanların yanında, birden fazla projenin veri kümelerini yöneten daha büyük ölçekli ajanlar da hızla devreye giriyor. Şirket, aynı problemde birbiriyle çelişen sonuçlar üreten ajanların yarattığı riski azaltmak için yeni yönetişim politikaları uyguluyor.
Böbrek bakımı alanında faaliyet gösteren DaVita ise çalışanların ürettiği ajan sayısının 10 bini aştığını açıklıyor. Şirketin CIO’su Madhu Narasimhan, hasta verilerinin söz konusu olduğu bir ortamda “tüketici sınıfı” ajan araçlarının kurumsal çevreye sokulmasına izin verilmediğini belirtiyor. DaVita, gerektiğinde çıkarım maliyetlerini kısabilen, gerektiğinde en yüksek performanslı ajanlara daha fazla token bütçesi ayırabilen iç bir platform geliştirmiş durumda.
Halka açık şirketler için ekstra yük
Sapphire Ventures’ın kurucu ortağı ve başkanı Jai Das, ajanların bir çalışanın dizüstü bilgisayarında, bir sunucuda ya da farklı kurumsal sistemlerde çalışabilmesinin BT birimleri için takip sorununu daha da zorlaştırdığına dikkat çekiyor.
Lyft’in Yapay Zekâ Dönüşümünden Sorumlu Başkan Yardımcısı Jason Vogrinec, şirketin Claude’u tüm çalışanlara açtığını, ancak ajanların görev tanımlarını oluşturan “skill”lerin paylaşımı için BT onaylı bir yöntem geliştirdiklerini söylüyor. Lyft ayrıca tüm ajanları kapsayacak, BT denetim mekanizmalarıyla donatılmış merkezi bir platform üzerinde çalışıyor. Vogrinec’e göre düzenleyici yükümlülükleri olan halka açık bir şirket için ajan sayısının kontrolden çıkması ayrı bir baş ağrısı.
Yazılım geliştirme platformu GitLab’in CIO’su Manu Narayan ise mevcut yönetişim ve güvenlik bariyerlerinin şirkette aşırı yayılımı şimdilik dizginlediğini, ancak orta vadede bir miktar “sprawl”un kaçınılmaz ve hatta fırsatlar düşünüldüğünde kabul edilebilir olduğunu ifade ediyor.
Anthropic denetim araçları yayınlıyor
Habere göre Anthropic, BT yöneticilerine yönelik bir dizi denetim aracını şimdiden kullanıma sunmuş durumda: Rol bazlı erişim kontrolü, harcama limitleri, kullanım analitiği, denetim kayıtları (audit log) ve onaylı eklenti kütüphaneleri bunların başında geliyor. Bu özellikler, Claude Cowork üzerinden ajan üreten kurumsal müşterilerin artan yönetim ihtiyaçlarına bir yanıt niteliği taşıyor.
Gartner verilerine göre kurumsal AI ajanı sayısının patlayacağı önümüzdeki iki yıl, aynı zamanda yönetişim açığının da en kritik dönemi olacak. Şu an için ajanların büyük bölümü kod yazma, e-posta özetleme, müşteri desteği ve veri analizi gibi beyaz yakalı işler için kullanılıyor. Ancak “derin araştırma” gibi karmaşık görevleri ve uçtan uca iş süreçlerini otomatikleştiren ajanlar da hızla yaygınlaşıyor.
Kurumsal güvenlik perspektifinden bakıldığında “agent sprawl”, bilinen shadow IT (gölge BT) probleminin yapay zekâ çağındaki yeni biçimi olarak okunabilir, bu kez sadece izinsiz kurulmuş yazılımlar değil, kendi kararlarını veren, kurumsal verilere erişen ve dış sistemlerle iletişim kuran yarı-özerk yazılım varlıkları söz konusu. Bu nedenle önümüzdeki dönemde kurumsal güvenlik gündeminde ajan kimliği yönetimi (agent identity management), ajan davranış izleme, ajanlar arası iletişim güvenliği ve token bütçesi kontrolü gibi başlıkların hızla yükselmesi bekleniyor.
