Fransa merkezli bir danışmanlık şirketi olan Capgemini, yapay zekanın sektörlere yansıması üzerine bir araştırma yaptı. Yapılan araştırma, yapay zeka destekli sistemler kullanmaya başlayan şirketlerin yüzde 90'ının, çeşitli etik sorunlarla karşılaştığını ortaya çıkardı. Bu yüksek oran, yapay zeka sistemleri üreten şirketleri derinden etkileyebilir.
Capgemini, gerek tüketicilerin gerekse kuruluşların, yapay zekadan yeteri kadar memnun olmadığını ortaya koyuyor. Ancak müşteriler, özellikle de koronavirüs pandemisi nedeniyle temassız ve uzaktan sistemler arıyorlar. Mevcut koşullarda piyasaya sürülen yapay zeka sistemlerinin çok büyük bir bölümü ise ne yazık ki böyle bir desteğe sahip değil. Sektörler, önümüzdeki dönemlerde en çok uzaktan ve temassız sistemlere yönelmek durumunda kalacak gibi görünüyor.
Yapılan araştırmalara göre tüketicilerin yüzde 68 gibi bir çoğunluğu, yapay zeka sistemlerinin adil ve ön yargısız olmasını istiyor. Bu talebe kuruluşlar cephesinden baktığımızda ise sadece yüzde 53'ünün bu durumu önemsediği ortaya çıkıyor. Üstelik kuruluşların sadece yüzde 46 kadarına ait yapay zeka sistemlerinin etik araştırmaları, bağımsız şirketler tarafından denetleniyor.
"Yapay zeka sistemlerinin aldığı kararların yüzde 60'ı, kuruluşların yasal olarak incelenmesine yol açtı"
Capgemini'nin araştırması, yapay zeka sistemlerinin aldığı kararların çoğunun, tüketicileri memnun etmediğini gösteriyor. Çünkü bugüne dek yapay zekaya karar aldıran şirketlerin yüzde 60'ı, alınan kararlar nedeniyle yasal inceleme süreçlerinden geçti. Bununla birlikte tüketicilerin yüzde 22'si, yapay zekanın aldığı kararlara tepki gösterdi.
Yapılan araştırmanın dikkate değer noktalarından bir tanesi de kuruluşların yapay zekayı nasıl anlattığıyla ilgili. Capgemini'ye göre 2019 yılında dünya genelinde yapay zeka destekli sistemlere sahip olan şirketlerin yüzde 73'ü, tüketicilere bilgi vermişlerdi. Şirketler bu bilgilendirme metninde yapay zekanın aldığı kararların şirketleri nasıl etkilediğini de açıklamışlardı. Bu oran, 2020 yılında yüzde 59'a geriledi.
Capgemini'ye göre kuruluşlar, etik açıdan sağlam bir yapay zeka sistemi oluşturabilmek için 7 unsur üzerinde durmak zorundalar. Bu unsurlar; yapay zekanın geliştirilme amacının açıkça belirtilip, bu yapay zekanın potansiyel olarak değerlendirilmesi, geliştirilen yapay zekanın toplum ve çevre yararına proaktif olarak dağıtılması, sistemin yaşam döngüsü boyunca çeşitlilik ve katılım ilkeleri açısından geliştirilmesi, şeffaflığın artırılması, insan gözetiminin sağlanması, sistemin teknolojik sağlamlığının oluşturulması ve insanların mahremiyetinin sağlanması olarak karşımıza çıkıyor.
