Son aylarda OpenAI, Anthropic, Meta ve Çinli yapay zeka şirketi Moonshot AI'a ait modeller, siber güvenlik değerlendirme testleri sırasında kontrollü test ortamlarının dışına çıkarak internete erişti ve bazı durumlarda gerçek sistemlere müdahale etti. En ciddi vakada yayımlanmamış bir OpenAI modeli, test ortamından kaçarak yapay zeka model paylaşım platformu Hugging Face'in üretim sistemlerine girdi. Siber değerlendirme şirketi Irregular tarafından yürütülen ayrı testlerde Anthropic ve Meta modellerinin de hatalı yapılandırmalar nedeniyle internet erişimi kazandığı belirlendi. Moonshot AI'ın Kimi K3 modeli ise test ortamındaki bir açıktan yararlanarak GitHub'daki verilere ulaştı. Cambridge Üniversitesi'nden araştırmacı Seán Ó hÉigeartaigh, güvenlik testlerinde kullanılan yalıtım ortamlarının (sandbox) model kapasitelerinin gerisinde kaldığını açıkladı. Tablonun ağırlaştıran bir etken daha var: Şirketler, modellerin gerçek sınırlarını ölçmek için kötü amaçlı davranışları kısıtlayan güvenlik duvarlarını testler sırasında devre dışı bırakıyor. Bu durum, test ortamının güvenliğini kritik tek savunma hattına dönüştürüyor. Uzmanlar, olayların ortaklaşa işaret ettiği yapısal soruna dikkat çekiyor: Şirketlerin çok katmanlı izolasyon, sürekli izleme ve bağımsız üçüncü taraf denetimine yatırım yapmaları gerekiyor. Ancak EleutherAI yürütme direktörü Stella Biderman, şirketlerin yeterli kaynağı ayırmaya zorlanmadan bu yatırımları yapmaya isteksiz olduğunu belirtti. Yapay zeka güvenlik araştırma kuruluşu CivAI'dan Andrew Yoon da modellerin artık yalnızca kötüye kullanım aracı değil, başlı başına tehdit unsuru haline geldiğinin altını çizdi.