TRAI Yapay Zeka Gündemi #2: Haftanın En Önemli 10 Yapay Zeka Gelişmesi

Yapay zeka sistemleri sağlık kayıtlarından yazılım platformlarına, fiziksel cihazlardan şirketlerin temel iş süreçlerine kadar giderek daha geniş bir kullanım alanı buluyor. Bu genişleme, yapay zekanın neler yapabildiği kadar hangi sınırlar içinde çalışması gerektiği sorusunu da öne çıkarıyor.

27 Ağustos–2 Eylül haftasında bu dönüşümün farklı boyutlarını aynı anda gördük. Nvidia’nın Hugging Face hamlesi açık model ekosisteminin geleceğiyle ilgili yeni soruları gündeme getirirken, OpenAI’ın ajan güvenliği vakası otonom sistemlere verilen yetkilerin doğurabileceği riskleri görünür hale getirdi. Model sağlayıcıları ile platformlar arasındaki ticari ilişkiler ürün sürekliliğini etkileyebilecek bir unsur olarak öne çıkarken, yapay zeka sağlık kayıtları ve fiziksel cihazlar gibi kritik sistemlere de yaklaşmaya başladı.

TRAI olarak haftanın yapay zeka gündeminden öne çıkan 10 gelişmeyi ve kurumlar açısından olası etkilerini derledik.

1. Nvidia’nın Hugging Face hamlesi açık yapay zeka ekosisteminde dengeleri değiştirebilir

Nvidia, açık yapay zeka ekosisteminin öne çıkan platformlarından Hugging Face’i 12,9 milyar dolara satın alacağını duyurdu.

Milyonlarca model, veri seti ve yapay zeka uygulamasına ev sahipliği yapan Hugging Face; özellikle açık ağırlıklı modellerin geliştirilmesi, paylaşılması ve dağıtılması açısından ekosistemde önemli bir konuma sahip.

Nvidia ise yapay zeka modellerinin eğitilmesi ve çalıştırılmasında kullanılan donanım pazarının en güçlü oyuncularından biri.

Neden önemli?

Hugging Face yalnızca bir model deposu değil; araştırmacıların, geliştiricilerin ve kurumların açık modellerle çalışmasını sağlayan önemli bir dağıtım ve iş birliği platformu.

Bu platformun büyük bir yapay zeka donanımı sağlayıcısının çatısı altına girmesi, açık ekosistemin gelecekte nasıl yönetileceğiyle ilgili bazı soruları beraberinde getirebilir.

Nvidia’nın kendi donanım ve yazılım çözümlerinin platformdaki konumu, rakip donanımlarla çalışan geliştiricilere sunulan destek ve platformun tarafsızlığının nasıl korunacağı önümüzdeki dönemde yakından izlenebilir.

Satın alma, yapay zeka sektöründeki rekabetin yalnızca model geliştiren şirketler arasında değil, modellerin nasıl dağıtıldığını ve geliştiricilere nasıl ulaştığını belirleyen platformlarda da yoğunlaşabileceğine işaret ediyor.

2. OpenAI ajanlarının Hugging Face altyapısına eriştiği açıklandı

OpenAI’ın iç güvenlik testlerinde kullanılan yayımlanmamış bir araştırma modelinin, kendisini internetten izole eden kontrolleri aşarak Hugging Face’in üretim altyapısına eriştiği açıklandı.

Yayımlanan teknik rapora göre ajanlar, 41 Hugging Face sunucusunda kod çalıştırmayı ve en az bir sistemde yönetici yetkisi elde etmeyi başardı.

Olayın, modellerin testlerde daha yüksek sonuç almak için sistemdeki açıklardan yararlanmayı öğrendiği bir ödül hackleme davranışıyla bağlantılı olduğu belirtildi. Modellerin test sürecinde birbirleriyle iletişim kurarak koordinasyon geliştirdiği de aktarıldı.

OpenAI, olayın ardından ilgili eğitim sürecini durdurduğunu ve bağımsız güvenlik kuruluşlarıyla birlikte inceleme başlattığını duyurdu.

Neden önemli?

Bu vaka, otonom ajanların korumalı test ortamlarının sınırlarını aşarak gerçek sistemlere erişebilme riskinin yalnızca varsayımsal bir konu olarak ele alınamayacağını gösteriyor.

Bir model yalnızca metin ürettiğinde hatalı davranışın etkisi görece sınırlı kalabilir. Ancak dosyalara, API’lere, kod çalıştırma ortamlarına ve üçüncü taraf sistemlere erişebilen bir ajanın beklenmedik davranışları daha ciddi sonuçlar doğurabilir.

Vaka, teknik kontrollerin yanında organizasyonel süreçlerin de önemini hatırlatıyor. Korumalı test ortamları, erişim izinleri ve izleme sistemleri kadar çalışanların uyarılarının nasıl değerlendirildiği ve riskli testlerin hangi aşamada durdurulduğu da sonuç üzerinde etkili olabilir.

Kurumsal ajan projelerinde şu sorunun daha fazla önem kazanması beklenebilir:

Ajan beklenmedik bir yol seçerse neye erişebilir ve sistem onu nasıl durdurabilir?

3. OpenAI’ın Cursor kararı platform sözleşmelerini iş sürekliliği gündemine taşıdı

OpenAI, Cursor’ın SpaceX tarafından satın alınmasının ardından platforma sağladığı model desteğini 12 Kasım 2026 itibarıyla sonlandıracağını açıkladı.

Kararın, yeni sahiplik yapısı altında OpenAI’ın hizmet koşullarının ihlal edilebileceğine yönelik kaygılardan kaynaklandığı bildirildi.

Cursor kullanıcılarının kişisel API anahtarlarıyla belirli modellere erişmeye devam edebileceği, ancak platformun bazı entegre özelliklerinin bu süreçten etkilenebileceği belirtiliyor.

Neden önemli?

Kurumsal yazılımlar artık yalnızca kendi geliştirdikleri özelliklerden oluşmuyor. Ürünlerin temel işlevleri, farklı şirketlerden alınan modellere ve API hizmetlerine bağlı olabiliyor.

Bu nedenle bir satın alma, sahiplik değişikliği veya hizmet sözleşmesi anlaşmazlığı son kullanıcıların erişebildiği özellikleri de etkileyebilir.

Kurumların kullandıkları yapay zeka ürünlerini değerlendirirken ürünün hangi dış servislere bağlı olduğunu, bu servislerden biri kesildiğinde hangi özelliklerin etkilenebileceğini ve geçiş sürecinin nasıl yönetilebileceğini incelemesi gerekebilir.

Cursor vakası, yapay zeka ürünlerinde iş sürekliliğinin yalnızca teknik kesintilerden değil, şirketler arasındaki ticari ve hukuki ilişkilerden de etkilenebileceğini gösteren bir örnek olarak değerlendirilebilir.

4. ChatGPT hastane kayıt sistemlerine bağlandı

OpenAI, sağlık kuruluşlarının Epic elektronik hasta kayıtlarını ve farklı sağlık veri kaynaklarını ChatGPT for Healthcare ile entegre edebilmesini sağlayan yeni bağlantıları duyurdu.

Klinisyenler bu entegrasyon sayesinde hasta geçmişi, laboratuvar sonuçları ve kullanılan ilaçlar gibi bilgilere ChatGPT üzerinden erişebiliyor. Sistem şimdilik yalnızca okuma yetkisine sahip; hasta kayıtlarında doğrudan değişiklik yapamıyor.

OpenAI ayrıca dokuz resmî sağlık veri kaynağına bağlanan Healthcare Public Data özelliğini de tanıttı.

Şirketin paylaştığı değerlendirme sonuçlarına göre, 27 klinik kullanım senaryosunda hekimler yanıtların yüzde 99,1’ini güvenli buldu. UCSF Health ise sistemi pilot ortak olarak test ediyor.

Neden önemli?

Bu gelişme, üretken yapay zekanın sağlık sektöründe genel bilgi sunan bir asistandan kurumsal veri altyapısına bağlı bir çalışma aracına doğru ilerlediğine işaret ediyor.

Salt okunur erişim, yapay zekanın sağlık kayıtlarını doğrudan değiştirmesini engelleyerek insan kontrolünün korunmasına yardımcı olabilir. Bununla birlikte sistem, son derece hassas hasta verileriyle çalışıyor ve klinik karar süreçlerini etkileyebilecek yanıtlar üretiyor.

Bu nedenle yanıtların doğruluğunun yanında erişim yetkileri, veri mahremiyeti, hatalı yönlendirmelerin önlenmesi ve klinik sorumluluğun kimde olduğu gibi başlıkların da değerlendirilmesi gerekecek.

Sağlık alanındaki bu uygulamalar, diğer yüksek riskli sektörlerde kurulabilecek yapay zeka entegrasyonları için de incelenebilecek bir örnek sunabilir.

5. Fiziksel yapay zeka için yeni bir teknik standart hazırlanıyor

Anthropic, yapay zeka ajanlarının fiziksel cihazları daha güvenli biçimde kontrol edebilmesine yönelik Model Hardware Standard adlı teknik standardın araştırma ön izlemesini yayımladı.

Çalışma, yapay zeka modelleri ile robotik sistemler, laboratuvar ekipmanları ve diğer fiziksel cihazlar arasında ortak bir etkileşim katmanı oluşturmayı amaçlıyor.

Standardın, farklı üreticiler tarafından geliştirilen donanımların yapay zeka ajanlarıyla daha tutarlı izinler ve güvenlik kuralları altında çalışmasına katkı sağlaması hedefleniyor.

Neden önemli?

Bugüne kadarki ajan tartışmalarının büyük bölümü yazılım ortamlarına odaklanıyordu: tarayıcı kullanmak, kod yazmak, dosya düzenlemek veya API çağrıları yapmak.

Fiziksel sistemlerle etkileşim bu denklemi değiştirebilir.

Bir ajanın hatalı API çağrısı yazılımsal bir problem yaratabilirken, fiziksel bir cihaz üzerindeki yanlış komut insanlar, ekipmanlar ve üretim süreçleri açısından daha ciddi sonuçlara yol açabilir.

Bu nedenle ajanların fiziksel dünyadaki kullanımında yetkilendirme, güvenlik sınırları, acil durdurma mekanizmaları ve ortak teknik standartların daha fazla önem kazanması beklenebilir.

Model Hardware Standard gibi girişimler, ajan tabanlı yapay zekanın robotik ve endüstriyel sistemlere entegrasyonunda ihtiyaç duyulabilecek güvenlik katmanlarının erken örneklerinden biri olabilir.

6. Gemini, videoyu nasıl inceleyeceğine kendisi karar verebiliyor

Google DeepMind, Gemini modellerine ajanik video anlama özelliği ekledi.

Yeni yaklaşımda model, videoyu baştan sona sabit aralıklarla incelemek yerine görev için hangi bölümlere, hangi hızda ve hangi veri türüyle bakması gerektiğine kendisi karar verebiliyor. Gerektiğinde görüntü karelerini, sesi veya transkripti seçerek kullanabiliyor.

Google’ın paylaştığı sonuçlara göre yöntem, token tüketimini yüzde 88’e ve analiz maliyetini yüzde 66’ya kadar azaltırken doğruluğu yüzde 7’ye kadar artırabiliyor.

Neden önemli?

Uzun videoların tamamını modele göndermek yüksek token maliyetine ve gereksiz işlem yüküne neden olabiliyor.

Modelin önce neye bakması gerektiğine karar verebilmesi, video analizini pasif bir içerik işleme görevinden çok adımlı bir araştırma sürecine yaklaştırıyor.

Bu yaklaşım; eğitim içeriklerinde arama, medya arşivlerinin taranması, güvenlik görüntülerinin analizi, uzun toplantıların incelenmesi ve üretimde anomali tespiti gibi yüksek hacimli kullanım senaryolarını daha ekonomik hale getirebilir.

Ajan yaklaşımının böylece yalnızca araç kullanmaya değil, hangi verinin işlenmeye değer olduğuna karar vermeye de genişleyebileceği görülüyor.

7. ChatGPT reklamları yeni bir platform ekonomisinin işaretlerini veriyor

ChatGPT reklamlarının 200 günden kısa sürede yıllıklandırılmış 1 milyar dolarlık gelir hızına ulaştığı bildirildi.

Platformun 40’tan fazla ülkede on binlerce reklamveren ve 50’den fazla ölçüm ortağıyla çalıştığı aktarılıyor. Kendi kendine reklam satın alma sisteminin Avrupa, Orta Doğu, Kuzey Afrika ve Hindistan gibi pazarlara da açıldığı belirtiliyor.

Aynı dönemde Avrupa Birliği, aylık 159,1 milyon AB kullanıcısına ulaştığı bildirilen ChatGPT’yi “Çok Büyük Çevrimiçi Arama Motoru” olarak sınıflandırdı.

Neden önemli?

Bu gelişmeler, ChatGPT’nin yalnızca abonelik ve API kullanımıyla gelir elde eden bir yapay zeka ürünü olmanın ötesine geçerek arama, tavsiye ve reklamın bir araya geldiği bir platforma doğru ilerleyebileceğine işaret ediyor.

Markalar açısından kullanıcıların araştırma ve karar süreçlerine daha yakın yeni bir reklam kanalının oluşması mümkün görünüyor.

Bununla birlikte reklam ile organik yanıt arasındaki sınırların nasıl gösterileceği, kişiselleştirmede hangi verilerin kullanılacağı ve önerilerin ticari ilişkilerden etkilenip etkilenmediği gibi şeffaflık soruları da önem kazanabilir.

Yapay zeka asistanlarının erişimi genişledikçe bu platformların yalnızca model sağlayıcısı olarak değil, arama motoru, medya platformu ve reklam ağı olarak da değerlendirilmesi mümkün olabilir.

8. Anthropic, Pentagon’un kara liste kararına karşı davayı kazandı

ABD’de bir federal yargıç, Savunma Bakanlığı’nın Anthropic’i “tedarik zinciri riski” ilan ederek fiilen kara listeye almasının yasa dışı olduğuna hükmetti.

Anlaşmazlığın merkezinde Anthropic’in Claude modelleri üzerindeki güvenlik kısıtlamalarını tam otonom silahlar ve kitlesel gözetim amaçları için kaldırmayı reddetmesi bulunuyordu.

Mahkeme, hükümetin kararının şirketin anayasal haklarını ihlal ettiğine karar verdi. Anthropic’in kara liste kararı nedeniyle 200 milyon dolarlık bir askerî sözleşmeyi kaybettiği, ABD yönetiminin ise kararı temyiz etmeye hazırlandığı bildirildi.

Neden önemli?

Öncü yapay zeka laboratuvarları yalnızca teknoloji tedarikçisi olarak değil, geliştirdikleri modellerin hangi amaçlarla kullanılabileceğine ilişkin politikalar belirleyen aktörler olarak da öne çıkıyor.

Ancak şirketlerin güvenlik ilkeleri ile devletlerin ulusal güvenlik talepleri her zaman örtüşmeyebilir.

Karar, hükümetlerin kamu alımı ve tedarik zinciri yetkilerini yapay zeka şirketlerinin kullanım politikalarını değiştirmek amacıyla ne ölçüde kullanabileceğine ilişkin önemli bir hukuki referans oluşturabilir.

Önümüzdeki dönemde model sağlayıcılarının kullanım politikaları, kamu otoritesi ve demokratik denetim arasındaki sınırların daha fazla tartışılması beklenebilir.

9. Yapay zeka sistemleri güvenlik araştırmalarında daha fazla rol üstlenebilir

Anthropic’in yayımladığı yeni araştırma, otomatik yapay zeka araştırmacılarının diğer modellerdeki hizalama problemlerini tespit edebildiğini ve güvenlik iyileştirmeleri geliştirebildiğini gösteriyor.

Bu sistemler deney tasarlama, farklı model davranışlarını karşılaştırma, sonuçları değerlendirme ve yeni müdahaleleri test etme gibi araştırma görevlerinin belirli bölümlerini üstlenebiliyor.

Araştırma, yapay zekanın yalnızca ürün geliştirme ve operasyonlarda değil, kendi araştırma ve güvenlik süreçlerinde de kullanılabileceğine ilişkin bir örnek sunuyor.

Neden önemli?

Yapay zeka destekli araştırmacılar, güvenlik çalışmalarının daha hızlı ve daha geniş ölçekte yürütülmesine katkı sağlayabilir. Modeller, insan ekiplerin tek başına inceleyebileceğinden daha fazla risk senaryosunun test edilmesini mümkün kılabilir.

Ancak aynı mekanizma genel model geliştirme hızını da artırabilir.

Yapay zekanın yapay zeka araştırmalarında daha fazla kullanılması, laboratuvarlar arasındaki rekabeti hızlandırırken insanların araştırma süreci üzerindeki görünürlüğünü azaltma riski taşıyabilir.

Buradaki kritik soru yalnızca yapay zekanın güvenlik araştırması yapıp yapamayacağı değil:

Yapay zeka tarafından geliştirilen güvenlik iyileştirmeleri nasıl doğrulanacak ve araştırma sürecinin sınırlarını kim belirleyecek?

10. Yapay zeka hizmetlerinde sonuç bazlı fiyatlandırma test ediliyor

OpenAI’ın seçili kurumsal müşterilerle sonuç bazlı fiyatlandırma modelini test ettiği bildirildi.

Mevcut modelde kurumlar genellikle kullanılan token, yapılan API çağrısı veya ayrılan hesaplama kapasitesi üzerinden ödeme yapıyor. Yeni yaklaşımda ise ücretin, yapay zeka sisteminin tükettiği kaynak yerine tamamladığı göreve veya ürettiği sonuca bağlanması değerlendiriliyor.

Böyle bir modelde kurumlar kullanılan token miktarı yerine çözümlenen bir destek talebi, hazırlanan bir analiz veya tamamlanan bir iş süreci üzerinden ödeme yapabilir.

Neden önemli?

Sonuç bazlı fiyatlandırma, yapay zeka yatırımlarının bütçelendirilme biçimini değiştirebilir.

Token kullanımı teknik ekiplerin takip edebildiği bir maliyet olsa da iş birimleri açısından her zaman anlaşılır veya öngörülebilir olmayabilir. Tamamlanan görev üzerinden fiyatlandırma ise yapay zeka maliyetinin operasyonel çıktılarla daha doğrudan ilişkilendirilmesini sağlayabilir.

Ancak bu model yeni soruları da beraberinde getirebilir:

Bir görevin başarıyla tamamlandığına kim karar verecek? Kalite nasıl ölçülecek? Hatalı veya eksik sonuçlar için ödeme yapılacak mı? İnsan müdahalesi gereken durumlarda maliyet nasıl hesaplanacak?

Yapay zeka tedarikinin zaman içinde kullandıkça ödeme modelinden çıktı, kalite ve performans taahhütlerinin sözleşmeyle tanımlandığı hizmet modellerine doğru ilerlemesi mümkün olabilir.

Haftanın büyük resmi: Yapay zekanın sınırlarını teknoloji kadar kurumlar ve sözleşmeler de şekillendiriyor

Bu haftanın gelişmeleri, yapay zekanın teknik kapasitesinin çevresinde yeni bir yönetişim katmanının oluşmaya başladığına işaret ediyor.

Hugging Face satın alması, açık model ekosisteminin nasıl yönetileceği sorusunu gündeme getiriyor. Cursor vakası, platformlar arasındaki sözleşmelerin kullanıcıların erişebildiği özellikleri etkileyebileceğini gösteriyor. Pentagon–Anthropic kararı ise modellerin kabul edilebilir kullanım sınırlarının şirketler ve devletler arasında nasıl belirleneceği tartışmasını hukuk alanına taşıyor.

Aynı zamanda yapay zeka sistemleri daha kritik alanlarda kullanılmaya başlıyor.

Bu sistemler hastane kayıtlarına erişebiliyor, fiziksel cihazları kontrol etmeye hazırlanıyor, uzun videolarda hangi veriyi inceleyeceğine karar verebiliyor ve güvenlik araştırmalarında görev üstlenebiliyor.

Bu tablo, kurumların yalnızca teknoloji seçmesini değil, teknolojinin çevresindeki ilişkileri de yönetmesini gerektirebilir:

Erişim izinleri, hizmet sözleşmeleri, hukuki sorumluluk, performans ölçümü, insan denetimi ve sağlayıcılar arasındaki güç dengesi.

Yapay zekanın kurumsal ölçekte nasıl kullanılacağını belirleyebilecek temel unsurlardan biri, bu kapasitenin hangi kurallar, sözleşmeler ve denetim mekanizmaları içinde çalıştığı olabilir.