YouTube, Twitter, Facebook ve Instagram gibi sosyal medya platformları, platformlarda oluşabilecek nefret dilinin ve şiddet içeriklerinin önüne geçebilmek için yapay zeka algoritmaları kullanıyor. Bu algoritmalara tanımlanan ve topluluk kurallarını ihlal eden söylemler, görseller ve aklınıza gelebilecek her türlü içerik filtrelenerek gerekli durumlarda engelleniyor.
Ancak özellikle söylem noktasında nihayetinde kelimelere yönelik olarak geliştirilen algoritmalar, zaman zaman yanılabiliyor. YouTube'un yapay zeka algoritmasının da böyle bir yanılgı ile bir satranç kanalını yanlışlıkla engellediği ortaya çıktı.
Siyah, beyaz, saldırı ve tehdit gibi kelimeler algoritmayı harekete geçiriyor:
'Agadmator's Chess Channel' isimli kanal, 1 milyondan fazla abonesi ile YouTube'un en popüler satranç kanallarından biri ve 2017 yılından beri aktif. Ancak kanal, beş kez şampiyon olan ve Grandmaster unvanını kazanan en genç Amerikalı olan Hikaru Nakamura ile bir bölüm yayınladıktan sonra geçtiğimiz aylarda engellenmişti. Gerekçe ise belirttiğimiz üzere ırkçı söylemler ve topluluk kurallarının ihlali.
Tabii ki ortada bir hata olduğunun kısa süre içerisinde anlaşılması üzerine kanal yeniden aktif edildi ancak uzmanlar, YouTube'un satranç terimlerini algoritmasına tanımlayarak bu tür durumların önüne geçmesi gerektiğini düşünüyor.
Çünkü satranç videolarının yüzde 80'inde bulunan 'siyah' 'beyaz' 'saldırı' ve 'tehdit' gibi satranç oyunlarında sıkça duyduğumuz kelimeler, YouTube'un yapay zeka algoritmasına göre nefret söylemi ve şiddet içeriyor. Her ne kadar moderatörler eşliğinde yürütülen bir filtreleme sistemi olsa da yapay zeka kimi noktalarda başarılı bir filtreleme yapamadığı için bu türden sorunlar kaçınılmaz oluyor.
