Microsoft, Google ve xAI, kendi yapay zeka araçlarını ABD ve İngiltere devlet kurumlarına dağıtım öncesi test için teslim etmeyi kabul etti. Bu microsoft yapay zeka hamlesi kapsamında ABD Merkezi Yapay Zeka Standartları ve İnovasyon Birimi (CAISI) ile İngiltere Yapay Zeka Güvenlik Enstitüsü (AISI), şirketlerin sınır modellerini değerlendirerek ulusal güvenlik ve büyük ölçekli kamu güvenliği risklerini analiz edecek. Microsoft’un baş sorumlu yapay zeka görevlisi Natasha Crampton, bu microsoft ai testi sayesinde yapay zeka destekli siber saldırılar ve suç amaçlı kullanımlar gibi risklerin önüne geçmeyi hedeflediklerini belirtti.

Microsoft ABD ile Test Anlaşması İmzaladı

Şirketin ABD tarafında Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) ile birlikte CAISI’ye destek vereceği bu yapay zeka iş birliği, beklenmeyen davranışlar, yanlış kullanım yolları ve hata modlarını inceleyerek daha sistematik değerlendirme yaklaşımları geliştirecek. CAISI direktörü Chris Fall, bağımsız ve titiz ölçüm biliminin sınır yapay zekayı anlamak için gerekli olduğunu söyledi. Microsoft model güvenliği konusunda yürütülecek çalışmalar kapsamında şirket, paylaşılan çerçeveler, veri setleri ve iş akışları oluşturarak ilerlemeyi hedefliyor.

👉️ İlginizi Çekebilir: Microsoft, BT Yöneticilerinin Çalışanların Yapay Zeka Mesajlarını Düz Metin Olarak İzlemesine İzin Verecek

Microsoft, İngiltere AISI ile yüksek riskli yeteneklerin değerlendirilmesi ve bu yeteneklere karşı kullanılan güvenlik önlemlerinin etkinliği üzerine araştırmalar yapacak. Bu ai dağıtım öncesi denetim süreci aynı zamanda toplumsal dayanıklılık konularını da kapsayarak sohbet tabanlı yapay zeka sistemlerinin hassas bağlamlarda kullanıcılarla nasıl etkileşime girdiğini inceleyecek. Microsoft ilerleyen dönemde Uluslararası Yapay Zeka Ölçüm, Değerlendirme ve Bilim Ağı üzerinden dünyadaki diğer yapay zeka enstitüleriyle de çalışmayı planlıyor.

Microsoft ayrıca sınır yapay zeka güvenliği alanındaki bağımsız araştırmaları desteklemek için Sınır Model Forumu ile çalışırken risk azaltma stratejileri konusunda şeffaflığı teşvik ediyor. Bu microsoft google xai ortaklığı kapsamında şirketin katkıda bulunduğu MLCommons ise AILuminate adlı güvenlik ve emniyet kriterleri ailesini geliştirip işletiyor. Crampton, bu ortaklıklardan öğrenilenlerin doğrudan müşterilere daha güvenli ürünler sunmak için kullanılacağını vurguladı.