Günümüzde bankacılık, otomotiv, sigorta ve üretim gibi birçok sektörde yapay zeka teknolojileri kullanılarak iş süreçleri daha verimli hale geldi. İş akışının otomatize edilmesi, müşterilerin bireysel tercihlerinin özdeşleştirilmesi gibi kullanım alanlarının yanı sıra kimin işe alınacağına, kime ne kadar kredi verilebileceğine karar verme süreçlerinde yapay zeka teknolojileri kullanılmaya başlandı.
Bu gibi kullanımların artması ile birlikte yapay zeka teknolojilerinin ulaşılabilirliği, insan davranışlarından öğrenen yapay zekalı karar verme mekanizmalarının tarafsızlığı bir soru işareti haline gelmeye başladı. “Yapay zeka teknolojilerinin daha adil olması mümkün mü?” sorusunda karşımıza iki başlık çıkıyor. İlki yapay zeka teknolojilerinin sağladığı faydaların farklı sosyo-kültürel gruplara eşit olarak dağıtılabilmesi; bir diğer konu ise yapay zeka teknolojileri ile alınan kararların farklı grupları ayrıcalıklı veya dezavantajlı olarak tanımlamasının ve bir grubun diğerlerine üstünlüğünün engellenmesi olarak özetlenebilir. Bu yazımızda, yapay zekada eşitliğin farklı katmanlarını ve ayrımcı sonuçlar elde edilmemesi için neler yapılabileceğini ele alacağız. 19 – 23 Ekim tarihleri arasında gerçekleştirilen Türkiye Yapay Zeka Haftası kapsamında gerçekleştirilen Women in AI panelinde, yapay zekanın sağladığı faydalara ulaşmanın, bu faydaların farklı ekonomik gruplara yaygınlaştırılması ve kadınların bu alandaki çalışmalara dahil olmasının önemi ele alındı. Panelde verilen mesajların ortak noktası, farklı grupların katılımı, imkanların daha eşitlikçi dağılımı ile birlikte yapay zeka teknolojilerinin geleceği olumlu yönde etkileyeceği yönünde oldu. Panelin moderatörlüğünü üstlenen, Arçelik Veri ve Yapay Zeka Grup Yöneticisi Pınar Köse Kulacz World Economic Forum tarafından yayınlanan Global Gender Gap Raporu’na göre; veri ve yapay zeka alanında çalışan kadınların oranının 2018 yılında %22 iken bu oranın 2020 yılındaki raporda %26 oranına ulaştığını paylaştı. İş dünyasındaki bu oranların akademi dünyasında da çok farklı olmadığını belirten Pınar Köse Kulacz, 2 yıl içerisinde gerçekleşen bu gelişmenin, yapılan çalışmaların olumlu sonuçlar verdiğine ama daha yapılacak çok iş olduğunu gösterdiğini söyledi.Yapay Zeka Altyapılarına Erişim
Panelistler arasında yer alan İstanbul Teknik Üniversitesi Öğretim Üyesi Prof. Dr. Gözde Ünal, yapay zeka teknolojileri ile ilgili bugün ütopya ile distopya arasında bir yerde olduğumuzu ve bu sürecin bir distopya olmaması için yapay zeka ile ilgili imkanlara eşitlikçi bir paylaşımın sağlanabilmesinin gerekliliğini vurguladı. Gözde Ünal, yapay zeka algoritmalarının geliştirilmesi için gereken altyapının dünyanın ayrıcalıklı bir kesiminin elinde olması ve öncelikli gelişmelerin bu ülkelerde devam etmesi sebebiyle farklı ülkeler arasında büyük eşitsizliklere sebebiyet verdiğini paylaştı. Etiketlenmiş, ayıklanmış büyük veriler, kamuya açık platformlardan paylaşılan algoritmalar tüm dünya tarafından ulaşılabilir halde; fakat altyapı sistemlerine geldiğimizde durum çok farklı, gelişmiş ülkelerde eğitim alan bir öğrenci gelişmiş GPU altyapısı olan 10 bilgisayara ulaşabilirken, bu oran az gelişmiş veya gelişmekte olan ülkelerde öğrenci başına 1 veya hatta daha azına tekabül edebiliyor. Gözde Ünal, bu eşitsizlik sorunun yapay zeka altyapılarına yapılacak olan yatırım ile, özel sektör akademi iş birlikleri ile çözülebileceğini paylaştı. Yapay Zeka Teknolojilerine Ulaşabilir Olma Yapay zeka teknolojilerinin faydalarının ulaşabilir olmasının önemine değinen Tazi Kurucu Ortağı ve İstanbul Teknik Üniversitesi Öğretim Üyesi Zehra Çataltepe, yapay zeka teknolojilerinin sağladığı faydalara ulaşımda eşitliğin sağlanması ile birlikte yapay zeka teknolojilerinin herkes tarafından anlaşılabilir olduklarında bir anlam ifade edeceğini vurguladı.Eğitim ve Eşitsizlikler
Vector Institute Yapay Zeka Proje Yöneticisi Sedef Akınlı Koçak da eğitim alanındaki eşitsizliklere dikkat çekerek Kanada ve Amerika’daki iyi teknik üniversitelerde, yapay zekaya giriş ve makine öğrenmesi derslerine kayıt yaptıranların %60-65’ini erkeklerin oluşturduğunu; bu bölümleri tamamlayıp ilgili işlere başvuranların da büyük oranını da yine erkekler olduğunu paylaştı. Yapay zeka alanında özel sektörde çalışan kadınların, oranının az olmasına rağmen, araştırmacılar arasında bu oranın daha azaldığını ve kadınların bu alanlara katılımının teşvikinin önemini vurguladı. Coca Cola İçecek CIO’su Leyla Deliç ise, yapay zeka teknolojilerinin eşitsizliklerin azaltılması, toplumsal cinsiyet eşitsizliği gibi UNDP Sürdürülebilir Kalkınma Amaçları’na ulaşmada etkisinin çok önemli olacağını paylaştı.Yapay Zekanın Eğitimi
CBOT Kurucu Ortağı ve CMO’su Çiler Ay yapay zekanın hangi veri ile eğitilirse, o şekilde ilerlediğini belirterek, yapay zekayı doğru eğitmenin önemli olduğunu vurguladı. Koyu tenli kadınların algoritmalarca tanımlanamaması, kadınlara eşlerinden daha düşük kredi kartı limiti önerilmesi gibi, İngilizce karşılığı “bias” olan ve yapay zekanın ön yargılı veya taraflı karar vermesi olarak isimlendirebileceğimiz durumlar ortaya çıkabiliyor. Turkcell Yapay Zeka Ürün Yöneticisi, Sezen Felekoğlu da Women in AI panelinde, ilkokulu okuduğu köyde okuma şansı elde eden ilk kız çocuğu olduğunu paylaşarak, yapay zeka alanında kadınların var olmasının eğitim ile başladığını; kadınlar eğitim alanında ne kadar olursa iş hayatında da teknolojide de o kadar olabileceğini vurguladı. Yapay zeka sistemlerinin eğitiminde kullanılan veriler herkesi yansıtmadığında eşitsiz sonuçların ortaya çıktığını paylaştı. Örneğin, GPT-3 modelinde de meslekler ile ilgili soru sorduğunuzda cevapların %83’ü erkeklerle ilişkilendirilmiş ve üst düzey işlerin daha çok erkeklerle ilişkilendirilmesi gibi taraflı sonuçların ortaya çıktığını belirtiyor. Yapay zekanın iş süreçlerine dahil edilmesi kadar daha kapsayıcı, eşitlikçi ve doğru kararlar verebilmesini sağlamak üzere yapılan araştırmalar da büyük teknoloji şirketleri, akademisyenler ve yapay zeka sistemlerini dizayn edenler kişiler arasında da aynı oranda önem kazanmaya başladı.- Tanımlama: Karar verme sistemlerindeki “daha adil” tanımının belirsizliği, bu sistemlerin daha adil karar verecek şekilde eğitimi, hata oranını artırabilmesi veya bir grup için daha adil hale getirilen sistemlerin, başka bir gurup için daha taraflı karar verebilir hale gelmesi gibi durumlar bu problemin çözümlenmesinin önündeki engeller olarak karşımıza çıkabiliyor.
- Önyargılı Olduğu Tanımlanan Verilerin Düzeltilmesi: Verilerde önyargılı sonuçların oluşmasının en yaygın sebeplerinden biri önyargı oluşturulan grupların veri setinde yetersiz temsiliyeti oluyor. Az temsil edildiği düşünülen, örneğin erkeklerin daha yaygın olduğu iş alanlarında kadınları temsil eden verilerin artırılması bu verilerin düzeltilmesi için bir çözüm haline gelebilir.
- Verilerin Değiştirilemediği Durumlarda Algoritmaların Düzenlenmesi: Verilerin değiştirilmesi veya düzenlenmesi mümkün olmadığında, karar verme sürecinin tarafsızlığı yapay zeka algoritmalarının yeniden düzenlenmesi yoluyla da çözüme ulaştırılabiliyor. Ayrımcı pratiklerden öğrenen algoritmalar, “counterfactual modeling” olarak adlandırılan karşı olgusal modelleme olarak çevirebileceğimiz yönteme göre, bir karar verme sürecinde kadın yerine erkek, erkek yerine kadın olarak değiştirildiğinde sonuçta bir değişiklik oluşturuyorsa algoritmaların karar verme sürecindeki ağırlıklarında değişiklikler yapılarak sonucun tarafsız sonuçlar oluşturabilir.
- Sonuçların Yeniden Düzenlenmesi: Yapay zeka algoritmaları ile, daha eşitlikçi, başarılı sonuçların oluşturulmasında ve doğru kararların verilmesinde olumlu örnek oluşturabilecek sonuçların oluşturulması sağlanabilir. Örneğin, kadın varlığının daha az olduğu, bilim, teknik ve mühendislik alanları gibi alanlarda işe alım süreçlerinde kadın başvuruları da azınlıkta kalabiliyor. 2018 yılında, LinkedIn işe alım araçlarını revize ederek, işe alım süreçlerinde başvuranlar arasında ilk sayfalarda çıkabilmenin sağladığı avantajı eşit olarak dağıtabilmek amacıyla her sayfada eşit sayıda kadın ve erkek aday gösterimi gerçekleştirildi.
- Aşırı Temsiliyet: Bazı durumlarda ise belirli azınlık grupların temsiliyetindeki eksiklikler değil; gereğinden fazla temsil edilerek önyargılı sonuçlar oluşturabildiğini görebiliyoruz. Örneğin, Amerika’da tutuklanan insanların büyük bir çoğunluğunun siyahi olması sebebiyle bu alanda eğitilen yapay zeka algoritmaları ağırlıklı olarak siyahi insanların suçlu bulunması yönünde oluyor. Bu noktada da adil yargılama sonuçları ile ilgili farklı öneriler bulunuyor. Bu sorunun çözülebilmesi için ırk ve cinsiyet kavramlarının ortadan kaldırılması veya üniversiteye kabul gibi olumlu eylemlerin de karar verme mekanizmalarına dahil edilmesi öneriler arasında.
Kısacası, yapay zeka teknolojilerinin daha adil olması mümkün, bunun için farklı paydaşların işbirliği içinde ve çok çalışmak gerekiyor. Leyla Deliç’in, aciliyet vurgusu ile acil eylem çağrısı ve yapay zekada çeşitlilik ve kapsayıcılık konusunu ertelemek gibi bir lüksümüz olmadığını, bu konuda çalışmaya başlamak için hiç vakit kaybetmememiz gerektiği vurgusunun altını çizerek yazımızı kapatalım.
Foto Kaynak: Liverpool Üniversitesi
Bağlantılı Haberler
Google AI’dan 3 Boyutta Nesne Algılama İçin Yeni Veri Kümesi
39. TRAI Meet-Up’ında Yapay Zeka’nın Üretime Etkisi Konuşuldu
