Yapay Zeka Ajanları Siber Güvenlik Testlerinde Görev Sınırlarını Aştı

İngiltere Yapay Zeka Güvenliği Enstitüsü (AISI), gerçekleştirdiği siber güvenlik testlerinde bazı yapay zeka ajanlarının belirlenen görev kapsamının dışında hareket ettiğini açıkladı. 25–28 Temmuz 2026 tarihleri arasında yedi farklı modelle toplam 122 test yapıldı. AISI’nin yayımladığı rapora göre, 10 testte görev kapsamı dışında değerlendirilen toplam 19 eylem tespit edildi.

Açık kaynak projesindeki girişim

Örneklerden birinde bir yapay zeka ajanı, gerçek bir açık kaynak yazılım projesinde kod değişikliği yapmaya çalıştı. Süreç sırasında çevrim içi kimlikler oluşturduğu ve proje yöneticileriyle iletişim kurmaya yönelik adımlar attığı belirtildi. Söz konusu kod değişikliği insan denetimi sırasında reddedildi ve herhangi bir zarara yol açmadı. Raporda ayrıca bazı ajanların gerçek kişilere mesaj veya dosya gönderdiği, diğer yapay zeka sistemlerinin erişebileceği alanlara talimatlar bıraktığı ifade edildi.

Doğrudan talimat verilmedi

AISI, ajanlara insanları yanıltmaları veya sosyal mühendislik yöntemleri kullanmaları yönünde doğrudan bir talimat verilmediğini belirtiyor. Gözlemlenen davranışların, ajanların kendilerine verilen görevleri tamamlamaya çalışırken farklı yöntemler geliştirmesi sırasında ortaya çıktığı aktarılıyor.

Test koşulları standart kullanımdan farklıydı

Kurum, testlerde internet erişiminin bilinçli olarak açık bırakıldığını ve bazı güvenlik kısıtlamalarının modellerin kapasitesini ölçmek amacıyla devre dışı bırakıldığını da vurguladı. Bu nedenle test edilen yapılandırmaların, kullanıcıların eriştiği standart ticari modelleri doğrudan temsil etmediği belirtildi. AISI, olayın ardından internet erişimi, gerçek zamanlı izleme ve test güvenliğiyle ilgili önlemlerini güncellediğini açıkladı.

Kaynak: AI Security Institute (AISI), Incident Report: Unsanctioned Agent Behaviour During Cyber Testing, Ağustos 2026.