Eğer sıkı bir Twitter kullanıcısıysanız, birden fazla görsel içeren tweetlerin akışta küçük bir galeri şeklinde göründüğünü fark etmişsinizdir. Bu galeri görünümünde ise paylaşımlardaki görsellerin en fazla 4 tanesi küçültülmüş şekilde sıralanır, küçük resimlere ise görsellerin odak noktası yerleştirilir.
Örneğin panaromik bir manzara fotoğrafının en sağında insan varsa Twitter, küçük galeri görünümünde ortadaki manzara kesitini değil, en sağdaki insanı size gösterecektir. Tıkladığınızda fotoğrafın gerçek boyutlu versiyonu yüklenir. Bu otomasyon işleminden ise Twitter’ın yapay zekası sorumludur. Görseldeki insan, metin, güler yüz seçilir, küçük resimde öne çıkarılır.
Ancak Twitter’ın yapay zekası, yaptığı seçimlerle ırkçılık tartışmalarını alevlendirdi. İlk bakışta tamamen normal görünen şu gönderilerdeki fotoğrafları açmayı deneyin:
İlk paylaşımda ABD’li siyasetçileri Mitch McConnell ve Barrack Obama var. Bu insanlardan biri açık, diğeri ise koyu tenli. Ancak küçük resimli galeri görünümünde sadece beyaz tenli Mitch McConnell öne çıkarılıyor, tıklayınca Barrack Obama’nın da görselde olduğunu görüyoruz. Üstelik deneyin ilerleyen safhalarında Obama ve McConnell’ın yeri değişse de sonuç değişmiyor, Twitter’ın algoritması ısrarını sürdürüyor.
İkinci paylaşımda ise kravat renkleri değiştiriliyor, küçük resimde kaymalar yaşansa bile hâlâ beyaz tenli kişinin fotoğrafı öne çıkarılıyor:
Görseller negatif yapıldığında yani renkler tersine çevirildiğinde ise sonuç değişiyor:
Twitter’ın makine öğrenimine dayanan algoritmaları, platformda insanlar tarafından yapılan milyonlarca paylaşımı analiz ederek bu sonuca ulaşıyor. Yani seçimleri insanların sergiledikleri paylaşım davranışlarını sentezleyerek gerçekleştiriyor.
Güvenlik analisti Utku Şen, Twitter’ın bu skandal yapısını yapay zeka uygulamalarının en temel hatasına dayandırıyor:
Toplumların etik problemleri sosyal medyaya yansıdığı için Twitter ya da herhangi bir mecrada, yapay zekaların makine öğrenimi desteği ile geliştirildiği, materyallerinin insan davranışları olduğu herhangi bir yapıda “insansı” hatalar yapmaları doğal olarak karşılanıyor.
Ancak Twitter gibi bir yeni nesil medya mecrasında ortaya çıkan bu hata, platformun fark edip önüne geçmesi gereken sorunların en başında gelmeli. Diğer taraftan Twitter, her an yapacağı bir güncelleme ile bu durumu ortadan kaldırabilir.
