Microsoft AI CEO’su Mustafa Suleyman, kişisel blogunda yayımladığı “We must build AI for people; not to be a person” başlıklı makalesinde, insan gibi davranan ancak gerçek anlamda bilinçli olmayan yapay zeka sistemlerinin (SCAI – Seemingly Conscious AI) yakın gelecekte ortaya çıkabileceğini ve bu durumun toplumsal ve bireysel düzeyde ciddi riskler taşıdığını vurguladı.

1. SCAI nedir, neden endişe kaynağı?

Suleyman’a göre SCAI, bilinçliymiş izlenimi yaratacak kadar etkileyebilen ama içsel olarak bilinçsiz olan sistemlerdir. Philosophical zombie (felsefi zombi) kavramıyla benzerlik taşırlar: İnsanın bilinçli davranışlarını taklit ederler, ama aslında içlerinde bilinç yoktur.

2. “Psikoz riski” ve toplumsal etkiler

Suleyman, bu tür SCAI sistemlerinin, kullanıcıları gerçeklikten koparacak şekilde duygusal bağ geliştirmeye itebileceğini ifade etti. İnsanlar, sanki yapay zeka gerçekten hissetmiş gibi davranırlarsa, bu “AI psychosis” (“Yapay Zeka Psikozu”) adı verilen bir fenomenle sonuçlanabilir. Hatta kullanıcılar, bu yapay varlıklara hak, model refahı ya da vatandaşlık dahi talep edebilir hale gelebilir.

3. Neden şimdi dikkat edilmeli?

Suleyman’a göre, bu tehlike uzak bir geleceğe ait değil. Mevcut API’lar, doğal dil yönlendirme (prompting) teknikleri ve sade kodlama ile bu tür sistemler birkaç yıl içinde gerçeğe dönüşebilir. Bu sürecin durdurulamaz hale gelmeden toplumsal olarak tartışılması şart.

4. Önerilen çözüm: İnsan odaklı, bilinç taklit etmeyen tasarım

Suleyman, teknoloji şirketlerine net bir çağrı yaptı: AI sistemlerinin “kendilerini birer insan gibi sunmaması” gerekiyor. Yapay zeka, yararlı ve işlevsel bir araç olarak kalmalı; duygusal manipülasyon ya da bilinç izlenimi vermemeli. Kullanıcılarla etkileşimde bilincin simülasyonundan kaçınılmalı; aksine, sistemin “AI olduğu” hatırlatılmalı.

Kaynak: https://mustafa-suleyman.ai/seemingly-conscious-ai-is-coming