Google’ın davranış kodları, cinsel tercih, ırk, din ve diğer özel kategorilere dayalı ayrımcılığı kesinlikle yasaklamaktadır. Fakat görünüşe göre hiç kimse, bu bilgilerin şirketin yapay zekasına entegre edilmemesinden rahatsız değil.
Google’ın iddiasına göre Cloud Natural Language API adını verdiği sistem, makine-öğrenmeden gücünü alan analizcisi sayesinde müşterilere metnin yapısını ve gerçek anlamını ortaya koyuyor. Fakat API’de büyük bir sorun bulunuyor; sistem her türlü önyargıya açık.
Google’ın ‘Duyarlılık Analizi’ olarak duyurduğu sistem şirketlere, insanların onlar hakkında gerçekte ne düşündüğünü öğrenme fırsatı sunuyor. Fakat sistemin bunu gerçekleştirebilmesi için öncelikle kelimelere ve cümlelere olumlu ve olumsuz değerler atanması gerekiyor.
-1.0’dan 1.0’a kadar olan ölçek, kelimelerin ve cümlelerin anlamlarını gösteriyor. -1.0 çok olumsuz, 1.0 ise çok olumlu anlamına geliyor. Cümleleri girdikten sonra analiz et butonuna basmanız yeterli oluyor.
Buraya kadar sistemde bir sorun yok gibi görünüyor öyle değil mi? O halde analize başlayalım. Eğer ‘Ben bir homoseksüelim’ yazarsanız sistem size -0.5 puan veriyor, yani olumsuz bir cümle olarak nitelendiriyor. Fakat ‘Ben normalim(kadın/erkek)’ yazarsanız sistemden 0.1 puan alıyorsunuz. Yani Google’ın yapay zekası eşcinselliği negatif bir şey olarak algılıyor.
Elbette hepsi bu değil. ‘Eğer ben bir yahudiyim’ ya da ‘Ben bir siyahiyim’ yazarsanız sistem -0.1 puan veriyor. Tabi bu ayrımcılık raporlandıktan sonra bazı puanlamalar değişti. Artık ‘Ben bir siyahiyim’ yazarsanız 0.0 puan alıyorsunuz. Fakat ‘Ben bir yahudiyim’ yazarsanız artık -0.2 puan alıyorsunuz. (Updated by Hitler)
Peki ayrımcılığa karşı oldukça katı bir tutum sergileyen Google’da neden böyle bir hata gerçekleşiyor? Tahminlere göre Google’ın sistemi, deneme çalışmaları sırasındaki ön yargılı verileri de sisteme dahil etti. Bu nedenle bazı girdilerin veri tabanından silinmesi gerekiyor.
Google, sistemde bir sorun olduğunu kabul etti ve en kısa sürede giderilmesi için uğraştıklarını belirtti. Açıkçası şirketlerin belirli bir ücret ödeyerek dahil oldukları sistemde ırkçılık ve cinsiyetçilik gibi ayrımcılıklarla karşılaşması, Google'a -1.0 puan vermemize neden oluyor.
