Sosyal medya devi Facebook, giderek artan deepfake video tehdidiyle mücadele etmek için geçtiğimiz yılın eylül ayında ‘Deepfake Detection Challange’ adı verilen bir yarışma başlatmıştı. Aradan geçen yaklaşık bir yılın ve 2.000’den fazla yarışmacının ardından firma, bugün itibarıyla yarışmanın kazananlarını duyurdu.
Deepfake içerikler, sosyal medya platformlarına inanılmaz büyük bir sorumluluk yüklüyor. Bu teknolojiyle birlikte devlet başkanları veya tanınmış kişiler, esasında söylemedikleri bir şeyi söylemiş ya da yapmadıkları bir şeyi yapmış gibi gösterilebiliyor. Facebook da bu sebeple rahatsız edici olabilecek yapay ve manipüle edilmiş içerikleri otomatik olarak tespit edip yanlış bilgiyle mücadele etmeyi amaçlıyor.
Deepfake nedir?
Yapay zekâ teknolojisiyle oluşturulan deepfake videoları, kişilerin ağız ve yüz hareketlerinden yola çıkarak mimik ve hareketlerini algılıyor. Yapay zekâ, elde edilen bu verileri işleyerek karmaşık bir algoritma oluşturuyor. Bu algoritmaysa kendisine verilen görselleri aynı mimikler ve ifadelerle güncelleyip nihayetinde kusursuz denebilecek bir montajlama ortaya çıkıyor.
Günümüzde ünlü kişileri absürt sahnelere koyarak eğlence amaçlı kullanılabilen bu teknoloji, özellikle sosyal medyada bir propaganda aracı olabiliyor. Yapay ve manipüle edilmiş bu videolar, kitleleri kışkırtabileceği için bazı kişiler tarafından tehlikeli kabul ediliyor.
Facebook, Deepfake Detection Challenge için 10 milyon dolar harcadı:
Facebook, yarışma boyunca 3.500’den fazla aktör kullandı ve yaklaşık 10 milyon dolar harcadı. Kaydedilen videolarda ayrıca herhangi bir algoritmayı zorlamak için bazı dikkat dağıtıcı değişiklikler de yapıldı. Bu konuda konuşan Facebook CTO’su Mike Schroepfer, bu videoları çekerken platformlarda paylaşılan video türlerine önem verdiklerini ve bu sebeple profesyonel koşullarda çekim yapmadıklarını söyledi.
İlk etapta kullanılan algoritmalar çok iyi sonuçlar vermedi ancak bazı ayarlardan sonra sahte içeriklerin tespitinde %80’in üzerinde doğruluk oranına ulaşıldı. Bu noktada sonuçların tahmin ettiğinden daha başarılı olduğunu belirten Facebook CTO’su Mike Schroepfer, kazanan modellerin %82 doğruluk oranıyla çalıştığının da altını çizdi.
Deepfake Detection Challenge’da kazanan modeller, sektörün geri kalanını harekete geçirmek için açık kaynaklı hâle getirilecek. Yani herhangi bir yazılım mühendisi koda ücretsiz bir şekilde erişebilecek.
