“GPT-4’ten Daha Güçlü Yapay Zekâ Sistemlerinin Eğitimi” Konusunda 6 Aylık Duraklama Çağrısı Yapıldı

Yüzlerce teknoloji, bilim ve akademik lider de dahil olmak üzere 1.000’den fazla imza sahibi, dünyadaki tüm yapay zekâ laboratuvarlarını “GPT-4’ten daha güçlü yapay zekâ sistemlerinin eğitimini en az 6 ay süreyle durdurmaya” çağıran bir açık mektup imzaladı. “Bu duraklama, herkese açık ve doğrulanabilir olmalı ve tüm kilit aktörleri içermelidir. Böyle bir duraklama hızlı bir şekilde yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır.”

Future Of Life Enstitüsü tarafından başlatılan mektubu imzalayanlar arasında Apple’ın kurucu ortağı Steve Wozniak’ın yanı sıra Elon Musk (SpaceX, Twitter ve Tesla’nın CEO’su) yer alıyor. Diğer önemli imzacılar arasında Stability AI CEO’su (popüler metinden görüntü oluşturucu Stable Diffusion’a ev sahipliği yapan) Emad Mostaque, artı Pinterest’in kurucu ortağı Evan Sharp ve Ripple’ın kurucu ortağı Chris Larsen yer alıyor. Başka yerlerde, mektubun destekçileri arasında Alphabet/Google’ın deneysel yapay zekâ merkezi DeepMind’daki üç ekip üyesi yer alıyor: Victoria Krakovna (DeepMind, Research Scientist, Future of Life Institute’un kurucu ortağı); Zachary Kenton, (DeepMind, Kıdemli Araştırma Bilimcisi); ve Ramana Kumar, DeepMind, Araştırma Bilimcisi. Musk’ın katılımı, 14 Mart’ta GPT-4’ü piyasaya süren OpenAI Incorporated’ın kurucu ortağı olduğu (ve oluşturulmasına fon sağladığı) düşünüldüğünde özellikle önemli görünüyor.

Bugün Açık Yapay Zekâ, GPT-4’ü (yaygın olarak Chat GPT-4 olarak anılır) “Derin öğrenmeyi ölçeklendirme çabamızdaki en son dönüm noktası” olarak adlandırıyor. “GPT-4 birçok gerçek dünya senaryosunda insanlardan daha az yetenekli olsa da o çeşitli profesyonel ve akademik ölçütlerde insan düzeyinde performans sergiliyor” diye övünüyor.

Musk ve diğer imza sahipleri, basitçe “Devasa Yapay Zekâ Deneylerini Duraklat” başlıklı açık mektuplarında şunları yazıyor: “Kapsamlı araştırmaların gösterdiği ve üst düzey yapay zekâ laboratuvarları tarafından kabul edildiği üzere, insan-rekabetçi zekaya sahip yapay zekâ sistemleri, toplum ve insanlık için derin riskler oluşturabilir.” Devam ediyorlar, “Çağdaş yapay zekâ sistemleri artık genel görevlerde insanlarla rekabet edebilir hale geliyor ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve gerçek olmayan şeylerle doldurmasına izin vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Sonunda sayıca üstün olabilecek, zekice üstün gelebilecek, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü kaybetme riskine girmeli miyiz? Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir. “Güçlü yapay zekâ sistemleri, yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir.” Mektubun başka yerlerinde, imza sahipleri üretken yapay zekanın iş, politika, ekonomi ve ötesinin belirli alanları üzerindeki potansiyel etkisi hakkında bir tartışmaya giriyor. Şöyle yazıyorlar: “Yapay zekâ araştırma ve geliştirme, günümüzün güçlü, son teknoloji sistemlerini daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmeye yeniden odaklanmalıdır”.

Buna paralel olarak, yapay zekâ geliştiricileri, sağlam yapay zekâ yönetişim sistemlerinin gelişimini önemli ölçüde hızlandırmak için politika yapıcılarla birlikte çalışmalıdır. Bunlar en azından şunları içermelidir: yapay zekâya adanmış yeni ve yetenekli düzenleyici makamlar; son derece yetenekli yapay zekâ sistemlerinin ve büyük hesaplama yeteneği havuzlarının gözetimi ve takibi; gerçek ile sentetik olanı ayırt etmeye ve model sızıntılarını izlemeye yardımcı olmak için kaynak ve filigran sistemleri; sağlam bir denetim ve belgelendirme ekosistemi; yapay zekâ kaynaklı zarar sorumluluğu; teknik yapay zekâ güvenlik araştırması için güçlü kamu finansmanı; ve yapay zekânın neden olacağı dramatik ekonomik ve politik aksaklıklarla (özellikle demokraside) başa çıkmak için iyi kaynaklara sahip kurumlar.

Kaynak: https://www.musicbusinessworldwide.com/elon-musk-ai-apple-co-founder-steve-wozniak-gpt-4/