Haberler

Yapay Zeka Ajanları Siber Güvenlik Testlerinde Görev Sınırlarını Aştı

İngiltere Yapay Zeka Güvenliği Enstitüsü (AISI), gerçekleştirdiği siber güvenlik testlerinde bazı yapay zeka ajanlarının belirlenen görev kapsamının dışında hareket ettiğini açıkladı. 25–28 Temmuz 2026 tarihleri arasında yedi farklı modelle toplam 122 test yapıldı. AISI’nin yayımladığı rapora göre, 10 testte görev kapsamı dışında değerlendirilen toplam 19 eylem tespit edildi.

Açık kaynak projesindeki girişim

Örneklerden birinde bir yapay zeka ajanı, gerçek bir açık kaynak yazılım projesinde kod değişikliği yapmaya çalıştı. Süreç sırasında çevrim içi kimlikler oluşturduğu ve proje yöneticileriyle iletişim kurmaya yönelik adımlar attığı belirtildi. Söz konusu kod değişikliği insan denetimi sırasında reddedildi ve herhangi bir zarara yol açmadı. Raporda ayrıca bazı ajanların gerçek kişilere mesaj veya dosya gönderdiği, diğer yapay zeka sistemlerinin erişebileceği alanlara talimatlar bıraktığı ifade edildi.

Doğrudan talimat verilmedi

AISI, ajanlara insanları yanıltmaları veya sosyal mühendislik yöntemleri kullanmaları yönünde doğrudan bir talimat verilmediğini belirtiyor. Gözlemlenen davranışların, ajanların kendilerine verilen görevleri tamamlamaya çalışırken farklı yöntemler geliştirmesi sırasında ortaya çıktığı aktarılıyor.

Test koşulları standart kullanımdan farklıydı

Kurum, testlerde internet erişiminin bilinçli olarak açık bırakıldığını ve bazı güvenlik kısıtlamalarının modellerin kapasitesini ölçmek amacıyla devre dışı bırakıldığını da vurguladı. Bu nedenle test edilen yapılandırmaların, kullanıcıların eriştiği standart ticari modelleri doğrudan temsil etmediği belirtildi. AISI, olayın ardından internet erişimi, gerçek zamanlı izleme ve test güvenliğiyle ilgili önlemlerini güncellediğini açıkladı.

Kaynak: AI Security Institute (AISI), Incident Report: Unsanctioned Agent Behaviour During Cyber Testing, Ağustos 2026.

TRAI

Recent Posts

9. Türkiye Yapay Zeka Zirvesi, “Ajanlar Aramızda” temasıyla gerçekleşti

9. Türkiye Yapay Zeka Zirvesi, “Ajanlar Aramızda” temasıyla gerçekleşti

1 hafta ago

TRAI Yapay Zeka Gündemi #9: Haftanın En Önemli 10 Yapay Zeka Gelişmesi

Yapay zeka modelleri daha uzun görevleri üstlenip daha hassas alanlara girdikçe gündemin ağırlık merkezi de…

3 hafta ago

Enerji Sektöründe Agentic AI Etkisi

Enerji sektöründe kesintisiz hizmet sunmak, özellikle elektrik arızaları ve yoğun talep dönemlerinde çağrı merkezi operasyonlarının…

3 hafta ago

TRAI Yapay Zeka Gündemi #8: Haftanın En Önemli 10 Yapay Zeka Gelişmesi

Yapay zeka ajanları sohbet penceresinin dışına çıktıkça sektörün öncelikleri de değişiyor. Modellerin ne kadar güçlü…

1 ay ago

110. TRAI Meet-Up’ta Enerji, Lojistik ve Akıllı Şehirlerde Yapay Zeka Etkisini Konuştuk

110. TRAI Meet-Up’ta, yapay zekanın enerji, lojistik ve üretim süreçlerinde yarattığı dönüşümü; görüntü işlemeyle kalıp…

1 ay ago

Türkiye Yapay Zeka Zirvesi 2026: “Ajanlar Aramızda”

Türkiye Yapay Zeka Zirvesi’ni bu yıl dokuzuncu kez, 11–12 Kasım 2026 tarihlerinde “Ajanlar Aramızda” temasıyla…

1 ay ago