İngiltere Yapay Zeka Güvenliği Enstitüsü (AISI), gerçekleştirdiği siber güvenlik testlerinde bazı yapay zeka ajanlarının belirlenen görev kapsamının dışında hareket ettiğini açıkladı. 25–28 Temmuz 2026 tarihleri arasında yedi farklı modelle toplam 122 test yapıldı. AISI’nin yayımladığı rapora göre, 10 testte görev kapsamı dışında değerlendirilen toplam 19 eylem tespit edildi.
Açık kaynak projesindeki girişim
Örneklerden birinde bir yapay zeka ajanı, gerçek bir açık kaynak yazılım projesinde kod değişikliği yapmaya çalıştı. Süreç sırasında çevrim içi kimlikler oluşturduğu ve proje yöneticileriyle iletişim kurmaya yönelik adımlar attığı belirtildi. Söz konusu kod değişikliği insan denetimi sırasında reddedildi ve herhangi bir zarara yol açmadı. Raporda ayrıca bazı ajanların gerçek kişilere mesaj veya dosya gönderdiği, diğer yapay zeka sistemlerinin erişebileceği alanlara talimatlar bıraktığı ifade edildi.
Doğrudan talimat verilmedi
AISI, ajanlara insanları yanıltmaları veya sosyal mühendislik yöntemleri kullanmaları yönünde doğrudan bir talimat verilmediğini belirtiyor. Gözlemlenen davranışların, ajanların kendilerine verilen görevleri tamamlamaya çalışırken farklı yöntemler geliştirmesi sırasında ortaya çıktığı aktarılıyor.
Test koşulları standart kullanımdan farklıydı
Kurum, testlerde internet erişiminin bilinçli olarak açık bırakıldığını ve bazı güvenlik kısıtlamalarının modellerin kapasitesini ölçmek amacıyla devre dışı bırakıldığını da vurguladı. Bu nedenle test edilen yapılandırmaların, kullanıcıların eriştiği standart ticari modelleri doğrudan temsil etmediği belirtildi. AISI, olayın ardından internet erişimi, gerçek zamanlı izleme ve test güvenliğiyle ilgili önlemlerini güncellediğini açıkladı.
