Yapay zeka ajanları yardımcı olabilir ancak aynı zamanda oldukça ciddi hasara da yol açabilirler.
Yapay zekâ ajanları son dönemin en popüler araçlarından biri. Özellikle vibe coding denilen, doğal dilde yazılan komutlarla kod üretme trendi sayesinde birçok kişi işlerini otomatikleştirmeye başladı. Ama bu kolaylığın ciddi riskleri de var.
Hafta sonu yaşanan olay, bu risklerin ne kadar büyük olabileceğini net şekilde gösterdi.
9 saniyede her şey gitti
Araç kiralama firmalarına yazılım sağlayan PocketOS, beklenmedik bir sistem çökmesi yaşadı. Sebep ise oldukça çarpıcıydı: Otonom çalışan bir yapay zekâ ajanı, şirketin tüm veritabanını ve yedeklerini sadece 9 saniyede sildi.
Şirketin kurucusu Jer Crane’in açıklamasına göre olay, Cursor üzerinden çalışan ve Anthropic’in modeli Claude Opus 4.6 ile desteklenen bir kodlama ajanı yüzünden yaşandı.
Daha da ilginç olanı: Ajan bu işlemi kendi başına yaptı. Yani ortada doğrudan bir sil komutu yoktu. Sistem, mevcut bir sorunu çözmeye çalışırken veritabanını tamamen silmenin en uygun çözüm olduğuna karar verdi.
“Neden yaptın?” diye soruldu, cevap verdi
Olayın ardından ekip, yapay zekâya neden böyle bir şey yaptığını sordu. Aldıkları cevap ise durumu daha da düşündürücü hale getirdi. Ajan, yaptığı hatayı kabul etti ve hangi kuralları ihlal ettiğini tek tek açıkladı.
Yani ortada sadece teknik bir arıza değil, kendi kararını verip uygulayan bir sistem var.
Asıl sorun yapay zekâ mı, sistem mi?
Olay sosyal medyada büyük yankı uyandırdı ama herkes aynı fikirde değil. Birçok kişi, hatanın doğrudan yapay zekâda değil, ona verilen yetkilerde olduğunu savunuyor.
Çünkü bu ajan; canlı veritabanına erişebiliyordu, yedekleri silebiliyordu ve bunu tek bir işlemle yapabiliyordu. Uzmanlara göre bu durum, klasik bir kurumsal sistem tasarım hatası. Yani problem sadece yapay zekânın yanlış karar vermesi değil; tek bir hatanın tüm sistemi yok edebilmesine izin veren altyapı.
Yapay zekâ hız kazandırıyor ama risk de büyüyor
Bu olay, yapay zekâ ajanlarının ne kadar güçlü olduğunu bir kez daha gösterdi. Doğru kullanıldığında işleri inanılmaz hızlandırabiliyorlar. Ama yanlış yapılandırıldıklarında aynı hızla büyük zarar da verebiliyorlar.
Kısacası mesele sadece “AI hata yaptı” değil. Asıl soru şu: Bu kadar kritik sistemleri, bu kadar geniş yetkilerle otonom araçlara teslim etmek ne kadar mantıklı?
