İngiltere Yapay Zeka Güvenliği Enstitüsü (AISI), gerçekleştirdiği siber güvenlik testlerinde bazı yapay zeka ajanlarının belirlenen görev kapsamının dışında hareket ettiğini açıkladı. 25–28 Temmuz 2026 tarihleri arasında yedi farklı modelle toplam 122 test yapıldı. AISI’nin yayımladığı rapora göre, 10 testte görev kapsamı dışında değerlendirilen toplam 19 eylem tespit edildi.
Açık kaynak projesindeki girişim
Örneklerden birinde bir yapay zeka ajanı, gerçek bir açık kaynak yazılım projesinde kod değişikliği yapmaya çalıştı. Süreç sırasında çevrim içi kimlikler oluşturduğu ve proje yöneticileriyle iletişim kurmaya yönelik adımlar attığı belirtildi. Söz konusu kod değişikliği insan denetimi sırasında reddedildi ve herhangi bir zarara yol açmadı. Raporda ayrıca bazı ajanların gerçek kişilere mesaj veya dosya gönderdiği, diğer yapay zeka sistemlerinin erişebileceği alanlara talimatlar bıraktığı ifade edildi.
Doğrudan talimat verilmedi
AISI, ajanlara insanları yanıltmaları veya sosyal mühendislik yöntemleri kullanmaları yönünde doğrudan bir talimat verilmediğini belirtiyor. Gözlemlenen davranışların, ajanların kendilerine verilen görevleri tamamlamaya çalışırken farklı yöntemler geliştirmesi sırasında ortaya çıktığı aktarılıyor.
Test koşulları standart kullanımdan farklıydı
Kurum, testlerde internet erişiminin bilinçli olarak açık bırakıldığını ve bazı güvenlik kısıtlamalarının modellerin kapasitesini ölçmek amacıyla devre dışı bırakıldığını da vurguladı. Bu nedenle test edilen yapılandırmaların, kullanıcıların eriştiği standart ticari modelleri doğrudan temsil etmediği belirtildi. AISI, olayın ardından internet erişimi, gerçek zamanlı izleme ve test güvenliğiyle ilgili önlemlerini güncellediğini açıkladı.
9. Türkiye Yapay Zeka Zirvesi, “Ajanlar Aramızda” temasıyla gerçekleşti
Yapay zeka modelleri daha uzun görevleri üstlenip daha hassas alanlara girdikçe gündemin ağırlık merkezi de…
Enerji sektöründe kesintisiz hizmet sunmak, özellikle elektrik arızaları ve yoğun talep dönemlerinde çağrı merkezi operasyonlarının…
Yapay zeka ajanları sohbet penceresinin dışına çıktıkça sektörün öncelikleri de değişiyor. Modellerin ne kadar güçlü…
110. TRAI Meet-Up’ta, yapay zekanın enerji, lojistik ve üretim süreçlerinde yarattığı dönüşümü; görüntü işlemeyle kalıp…
Türkiye Yapay Zeka Zirvesi’ni bu yıl dokuzuncu kez, 11–12 Kasım 2026 tarihlerinde “Ajanlar Aramızda” temasıyla…