İnsan ve Makinenin Etkileşimi

Algoritmalar sosyal varoluşumuzu değiştirme yolunda yükselişe geçmiş durumda. Peki bireyler ve tüm toplumlar bununla nasıl mücadele edecekler? Yapay zekâ ve makine öğrenmesinin potansiyeli bireylerin ve toplumların yararına nasıl kullanılacak? Sanal kuruluşlar eğitim ve iş hayatını süreçlerinde nasıl şekillenecekler? Berlin Max Planck’ta yeni kurulmuş “İnsan ve Makine Merkezi” bu konular üzerinde çalışacaklar. Son 4 yılını MIT’de çalışmalar yürüten Iyad Rahwan çalışmaya öncülük edecek.

Algoritmalar her gün hayatlarımızı etkileyen milyonlarca karar alıyorlar. Sosyal medyada hangi haberlerin görüneceğine karar veriyorlar. İnternette bize gösterecek ürünlere karar veriyorlar. Alışkanlıklarımızı analiz ediyorlar ve ona göre bize teklifler sunuyorlar. Algoritmalar sadece tercihlerimizi ve davranışlarımızı tahmin etmekle kalmıyorlar, aynı zamanda biz farkında olmadan onları değiştiriyorlar. Örneğin “Bu ürünü alanlar, bu ürünleri de görüntülediler” gibi. Bu zararsız, hatta pratik görünüyor olabilir. Ancak algoritmalar kimin iş sahibi olacağına, kimin vize alacağına veya kimin hapse gideceğine karar verdiğinde, hayatlarımızı etkileyen ve toplumu yeniden düzenleyen güçlü sosyal kurumlar haline geliyorlar.

Iyad Rahwan “Ben, zekâ seviyelerinden bağımsız, makinelerin insanları manipüle etmeden ve zarar vermeden bizler için nasıl çalışmaları gerektiğiyle ilgileniyorum. Bu konu hakkında çalışma yapabilmek için programlama, bilgi bilimi, sosyal ve davranış bilimi ve kendi disiplinim arasında bir diyalog geliştirmek gerekiyor.” diyor.

Iyad Rahwan’nın en bilinen çalışması otonom araçlarda oluşabilecek ahlaki ikilemler. Odaklandığı konu otonom bir aracın seyir halindeyken içinde bulunabileceği tehlikeli bir durum. Örneğin algoritma, kırmızı ışıkta karşıdan karşıya geçmekte olan bir çocuğu mu yoksa bir araba sürücüsünü mü tehlikeye atmalı? Böyle bir sorunun psikolojik, politik ve sosyolojik yanları var. Aracın algoritmasına kim karar vermeli? Sürücü mü, üretici mi yoksa bütün toplum mu?

“Bilgi Teknolojileri toplumun refahına ve iyiliğine katkıda bulunabilir. Ancak aynı zamanda insanların karar verme kapasitelerini tehlikeye atabilir ve hareket özgürlüklerini kısıtlayabilir. Bu yüzden biz insanlar olarak algoritma kullanımındaki kuralları tartışmalıyız. Bizler, dijitalleşmenin etkilerini dikkate alarak yeni bir toplum sözleşmesi yapma sürecindeyiz.” diyor Iyad Rahwan.

Kaynak: https://www.mpib-berlin.mpg.de/en/media/2019/04/new-director-iyad-rahwans-research-focuses-on-the-societal-challenges-of-digitization