Google Tehdit İstihbarat Grubu araştırmacıları, popüler bir açık kaynak web yönetim aracını hedef alan sıfırıncı gün istismarının yapay zeka ile üretildiğini tespit etti. Bu yapay zeka ile hack girişimi, ismi açıklanmayan sistem yönetim aracının iki faktörlü kimlik doğrulama korumasını atlatmayı başardı. Google, saldırının kitlesel istismar aşamasına geçmeden engellendiğini duyurdu.

Yapay Zeka ile Üretilen Kod Nasıl Tespit Edildi?

Google araştırmacılarının analizine göre Python tabanlı istismar kodu, ai destekli saldırı için tipik özellikler taşıyor. Kod içerisinde bol miktarda eğitim amaçlı belge satırı, halüsinasyon ürünü bir CVSS skoru ve LLM eğitim verilerine özgü yapılandırılmış bir Python formatı bulunuyor. Google, bu süreçte kullanılan büyük dil modelini kesin olarak tespit edemese de Gemini’nin olaya karışmadığını net şekilde belirtiyor.

Araştırmacılar, siber güvenlik yapay zeka araçlarının bu tür mantık hatalarını bulmada çok başarılı olduğunu vurguluyor. Geleneksel bulanık test veya statik analiz yöntemlerinin ortaya çıkaramayacağı üst düzey anlamsal mantık hatası, AI sistemlerinin tespit etmede uzmanlaştığı bir alan olarak öne çıkıyor. Google, bu durumun tehdit aktörlerinin yeteneklerinde önemli bir değişime işaret ettiğini belirtiyor.

APT Grupları ve PromptSpy Yapay Zeka Kullanıyor

Google’ın raporuna göre APT27, APT45 ve UNC2814 gibi gruplar güvenlik açığı keşfi için yapay zeka kodu üretimine başvuruyor. Rusya ile bağlantılı aktörler ise CANFAIL ve LONGSTREAM gibi zararlı yazılımları gizlemek için yapay zeka üretimi aldatıcı kodlar kullanıyor. Bu tür hacker yapay zeka saldırıları giderek yaygınlaşıyor.

PromptSpy adlı Android arka kapı yazılımı ise otonom cihaz etkileşimi için Gemini API’leri ile entegre çalışıyor. “GeminiAutomationAgent” adlı otonom ajan modülü, yazılımın cihazla otomatik şekilde etkileşime geçmesini sağlayan sabit kodlanmış bir talimat zinciri içeriyor. PromptSpy ayrıca cihazdaki kilit deseni veya PIN gibi kimlik doğrulama mekanizmalarını yeniden oynatmak için yapay zeka tabanlı yetenekler kullanıyor. Google, tehdit aktörlerinin premium yapay zeka modellerine erişimi endüstriyel ölçekte otomatikleştirdiği konusunda uyarıyor.