İnsanların gerçekten yapmadıkları şeyleri söyleyerek görüntülerinin çekilmesi gibi endişeleri var. Bu deepfake videolar, o kadar gelişti ki gerçeğiyle sahtesini ayırt etmek çok güç olabiliyor ancak şimdi Facebook AI Research, orijinal videoyu oldukça doğal bir şekilde yapılandırarak yapay zekâyı kandırmanın bir yolu olduğunu söylüyor.
De-ID, yüz tanıma sistemi tarafından alınan temel parçaları gizliyor:
Deepfake, temelde birinin yüzünü kendi yüzüyle değiştirerek akıllı telefonlarda popüler olan yüz değiştirme uygulamalarına benzer şekilde çalışır. Bu, geçmiş görüntülerini kullanarak bilgisayar tarafından oluşturulan yüzün oluşturulduğu ve gerçek olanın üstüne konulduğu anlamına gelir. Sonuç olarak videodakiler hâlâ kendilerine benziyor ancak bir bilgisayar, normal bir videodan veya fotoğraftan alabileceği temel bilgi parçalarını alamıyor.
Araştırmacılar Oran Gafni, Lior Wolf ve Yaniv Taigman, makalelerinde şunları söyledi: “Yüz tanıma teknolojisi hem kullanışlı hem de etkili olduğundan aynı zamanda birçok etik kaygıyı da beraberinde getiriyor. Yüz tanıma, gizlilik kaybına neden olabilir ve yüz değiştirme teknolojisi yanıltıcı videolar oluşturmak için kötüye kullanılabilir. Bu uygulama, algılanan kimliğin değişmesi için benzer görünümlü bir kişinin videosunu oluşturuyor.”
Ekip, yazılımlarının en gelişmiş yüz tanıma özelliğini yendiğini ve bunun bir videoda ilk defa yapıldığını söyledi. Ayrıca programın, kişinin orijinal ifadelerini ve pozlarını koruyabildiğini ve çeşitli etnik köken ve yaş gruplarında çalışabildiğini savundu.
