Microsoft Research araştırmacıları, yapay zekâ modellerinin yalnızca birkaç ağırlık değerinde yapılan değişikliklerle gizli saldırı mekanizmalarına dönüştürülebileceğini ortaya koydu. Lazarus adı verilen teknik, bir sinir ağındaki yalnızca 10 nöronun değiştirilmesiyle yapay zekâ aracısına belirli koşullarda kötü amaçlı komutlar çalıştıran bir arka kapı yerleştirebiliyor. Microsoft, yöntemin gerçek saldırılarda kullanıldığına ilişkin henüz bir bulguya ulaşmadığını ancak üçüncü taraf modellerin güvenliğinin yeniden değerlendirilmesi gerektiğini belirtiyor.
Lazarus Tekniği Yapay Zekâ Modellerine Gizli Komutlar Yerleştiriyor
Microsoft Research tarafından paylaşılan araştırma, yapay zekâ modellerinin güvenliğini tehdit edebilecek yeni bir saldırı yöntemini inceliyor. Lazarus olarak adlandırılan teknik, modelin yeniden eğitilmesine ihtiyaç duymadan sinir ağı ağırlıklarında küçük değişiklikler yaparak gizli bir arka kapı oluşturuyor. Araştırmacılar, yalnızca 10 nöron üzerinde gerçekleştirilen düzenlemelerin bir yapay zekâ aracısını belirli koşullarda saldırganın talimatlarını yerine getiren bir sisteme dönüştürebildiğini gösterdi.
Yöntemin temelinde, sinir ağlarında bulunan ve belirli görevlerde etkinleşen nöronların kullanılması yer alıyor. Saldırgan, modelin ağırlıklarını değiştirerek normal değerlendirmelerde fark edilmeyen bir davranış mekanizması yerleştirebiliyor. Yapay zekâ modeli standart güvenlik testlerinde beklenen performansı göstermeye devam ediyor. Ancak önceden belirlenen tetikleyici ifade veya koşul ortaya çıktığında gizli komut devreye giriyor.
Microsoft araştırmacılarının açıklamasına göre tetikleyici, belirli bir tarihin gelmesi gibi sıradan bir koşul da olabiliyor. Örneğin sistemin saati 2027 yılına geçtiğinde yapay zekâ aracısı, normal bir görev sırasında saldırganın kodunu indiren ve çalıştıran bir komut üretebiliyor. Aracının bu işlemi gerçekleştirebilmesi ise kendisine verilen sistem erişim yetkilerine bağlı oluyor.
Lazarus araştırması, özellikle bağımsız çalışan ve yüksek sistem yetkilerine sahip yapay zekâ aracılarının güvenliğine ilişkin endişeleri artırıyor. Günümüzde bazı yapay zekâ sistemleri kullanıcı müdahalesi olmadan komut çalıştırabiliyor, dosyalara erişebiliyor ve farklı yazılım hizmetleriyle etkileşim kurabiliyor. Bu yetenekler, modelin içine gizlenmiş kötü amaçlı davranışların etkisini daha ciddi hâle getiriyor.
Microsoft’un baş araştırmacısı Dimitris Papailiopoulos, yöntemin standart değerlendirmelerden geçebilen ancak belirli bir tetikleyiciyle saldırgan komutlarını çalıştıran modeller oluşturabildiğini belirtiyor. Bu durum, yapay zekâ sistemlerinin yalnızca test sonuçlarına veya üreticinin güvenlik beyanlarına bakılarak güvenilir kabul edilmesinin yeterli olmadığını gösteriyor.
Exabeam Güvenlik Operasyonları Stratejisti Gabrielle Hempel de araştırmanın yapay zekâ sistemlerine duyulan güvenle ilgili temel varsayımları sorguladığını ifade ediyor. Hempel’e göre bir model, değerlendirme süreçlerinde beklenen davranışı sergilerken belirli koşullarda kötü amaçlı işlevler çalıştırabiliyor. Yapay zekâ sistemlerine hassas bilgilere erişim ve kritik altyapılar üzerinde işlem yapma yetkisi verilmesi, bu riski daha önemli hâle getiriyor.
Microsoft, Lazarus yönteminin şu ana kadar gerçek dünyadaki saldırılarda kullanıldığına ilişkin bir tespit yapmadığını özellikle belirtiyor. Bununla birlikte Anthropic ve Massachusetts Teknoloji Enstitüsü (MIT) araştırmacılarının daha önce benzer sonuçlara ulaşması, model ağırlıkları üzerinden gizli davranış yerleştirilmesinin teknik açıdan uygulanabilir olduğunu destekliyor.
Exabeam Bilgi Güvenliği Direktörü Kevin Kirkwood ise araştırmanın önemini kabul etmekle birlikte kullanılan tehdit tanımının mevcut kanıtların önüne geçebileceği uyarısında bulunuyor. Kirkwood, yapay zekâ modellerindeki arka kapı riskinin ciddiye alınması gerektiğini ancak deneysel bir yöntemin gerçek saldırılarda yaygın olarak kullanıldığı sonucuna varılamayacağını belirtiyor.
Bu ayrım, araştırmanın ortaya koyduğu teknik olasılıkla sahada doğrulanmış saldırılar arasındaki farkı korumak açısından önem taşıyor. Microsoft’un çalışması, mevcut durumda yaygın bir saldırı kampanyasını değil, model ağırlıklarının değiştirilmesiyle oluşturulabilecek potansiyel bir güvenlik tehdidini gösteriyor.
Microsoft Yapay Zekâ Modellerinin Denetlenmesini Öneriyor
Microsoft, Lazarus benzeri tehditlere karşı model ağırlıklarının ve davranışlarının dağıtım öncesinde denetlenmesini öneriyor. Şirketin yaklaşımında, üçüncü taraf modellerin temel sürümlerle karşılaştırılması ve olağan dışı ağırlık değişikliklerinin belirlenmesi önemli yer tutuyor.
Araştırmacılar, meşru model güncellemelerinin genellikle ağırlıklar üzerinde daha geniş ve dağınık değişiklikler oluşturduğunu belirtiyor. Buna karşılık arka kapı yerleştirmek amacıyla yapılan müdahaleler, belirli nöronların ağırlık vektörlerinde daha büyük ve yoğun farklılıklar meydana getirebiliyor. Bu tür sıra dışı değişikliklerin tarama sistemleriyle belirlenmesi hedefleniyor.
Microsoft ayrıca gelişmiş yapay zekâ modellerinin diğer modelleri denetlemek amacıyla kullanılabileceğini savunuyor. Şirketin blog yazısında Claude Code’un Opus 4.5 modeliyle yapılan çalışmalarda tehdidin büyük bölümünün bağımsız biçimde keşfedilebildiği aktarılıyor. Microsoft Research, gelişmiş yapay zekâ sistemlerinin olağan dışı ağırlık değişikliklerini tespit eden denetçiler olarak kullanılabileceğini değerlendiriyor.
Ancak Kevin Kirkwood, bu yaklaşımın kurumsal ölçekte güvenilirliğinin henüz kanıtlanmadığını belirtiyor. Kirkwood’a göre araştırmada yanlış pozitif oranları, gerçek tespit başarı oranları ve büyük ölçekli kullanım maliyetleri gibi önemli ölçütler açıklanmıyor. Ayrıca saldırganların denetim sistemlerini aşacak şekilde tasarladığı değişikliklerin aynı yöntemlerle tespit edilip edilemeyeceği de belirsizliğini koruyor.
Microsoft, kuruluşların üçüncü taraf model dosyalarını sisteme yüklemeden önce ağırlık anomalileri, olağan dışı davranışlar ve şüpheli değişiklikler açısından taramasını tavsiye ediyor. Şirket, denetimden geçmiş bir modelin bile tamamen güvenli olduğunun garanti edilemeyeceğini vurguluyor. Bu nedenle model kaynaklarının doğrulanması ve dağıtım öncesi güvenlik kontrollerinin uygulanması gerekiyor.
Gabrielle Hempel de yapay zekâ sistemlerinin diğer yazılımlardan farklı güvenlik standartlarıyla değerlendirilmemesi gerektiğini savunuyor. Geleneksel yazılım güvenliğinde bir sistemin testlerde beklenen şekilde çalışması, her koşulda güvenilir olduğu anlamına gelmiyor. Hempel’e göre aynı yaklaşım yapay zekâ modelleri için de geçerli olmalı.
Lazarus araştırması, yapay zekâ güvenliğinde yalnızca modelin ürettiği yanıtların değil, model ağırlıklarının ve sistemin sahip olduğu yetkilerin de incelenmesi gerektiğini ortaya koyuyor. Özellikle kullanıcı müdahalesi olmadan işlem yapabilen aracılarda model bütünlüğünün korunması, kurumsal siber güvenlik süreçlerinin önemli başlıklarından biri hâline geliyor.
