Kasım 2017’de “deepfakes” isimli bir Reddit hesabı ünlü Hollywood aktrislerinin yüzlerini porno oyuncularına bir yazılım vasıtasıyla kopyalayarak pornografik videolar paylaşmaya başladı. Yaklaşık iki yıl sonra deepfake, manipüle edilmiş videolar veya yapay zekâ yazılımlarıyla oluşturulmuş videolar için jenerik bir isim haline gelmeye başladı. Kanun koyucular, bu teknolojinin politik dezenformasyon için kullanılacağı konusunda endişelense de yapılan çevrimiçi ortamlarda dönen videolar üzerinde yapılan yeni bir araştırmaya göre çoğunlukla müstehcen videolardan oluşuyor.
Deeptrace adlı girişim Haziran ve Temmuz ayları boyunca deepfake videolarının sayımını yaptı. Girişimin bunu yapmasındaki amacı geliştirdikleri tespit aracını haber organizasyonlarına ve çevrimiçi platformlara satmaktı. Girişim, deepfake olarak sunulan 15 bin video bulmayı başardı. Deeptrace’in yaptığı açıklamaya göre videoların %96’sı pornografik içerikliydi. Girişim, deepfake videolar yaratmak için kullanılan araçların daha sofistike ve daha geniş alanda kullanılabilir olduğunu vurguladı.
Deeptrace’in raporu, insanların pornografik deepfake’ler paylaştığı, tartıştığı ve iş birliği yaptığı oldukça niş ancak gelişen bir ekosisteme sahip siteleri ve forumları ortaya koydu. Bunlardan bazıları kişilerin rızaları olmadan yüzlerini pornografik kliplere yerleştiren deepfake videolarına reklâmlar koyan ticari girişimler.
Hedefte kadınlar var
Deeptrace, pornografik kliplere yerleştirilen insanların hepsinin kadın olduğunu buldu. Batı dünyasındaki ünlü aktrislerin ve Güney Koreli pop yıldızları gibi popüler figürlerin kullanıldığı videolar milyonlarca izlenmeye ulaşıyor. Ayrıca kadın gazetecilerin ve politik aktivistlerin deepfake ile saldırıya uğrayan insanlar olduğu keşfedildi. Deeptrace araştırmacısı olan Henry Ajder, eski sevgilileri gibi tanıdıkları kadınların pornografik deepfake videolarında kullanılmasını isteyen kullanıcıların yer aldığı deepfake forumlarının bulunduğunu söyledi.
Boston Üniversitesi’nde hukuk profesörü olan Danielle Citron, bireylerin rızaları olmadan yapılan pornografik deepfake videolarının “cinsel hayat gizliliğinin ihlâli” olduğunu dile getirdi. İstihbarat komitesinde konuşan Citron, pornografik deepfake videolarının çoğunluğunun tarihte her zaman görüldüğü gibi kadınları hedef aldığını dile getirdi. ABD’nin hem cumhuriyetçi hem de demokrat kanadı deepfake’lerin tespiti ve verilebilecek cezalarla ilgili çalışmalar yaptıklarını açıkladı.
Deeptrace’ten Ajder, sahte kliplerin 2020 seçimlerini önemli ölçüde etkileyebileceğine dair endişelerinin olduğunu söyledi. Girişimin raporuna göre teknolojinin farkındalığının artması bunu önleyebilir. Haziran ayında Malezyalı bir politikacı yardımcısı, ülkenin ekonomik ilişkiler bakanıyla cinsel ilişkiye girdiğini gösteren bir video sebebiyle tutuklanmıştı. Eşcinsel ilişkinin illegal olduğu Malezya’da, ülkenin başbakanı videonun deepfake olduğunu söyledi. Bağımsız uzmanlar videonun manipüle edilip edilmediğini belirleyemedi. Ajder, “Deepfake’in inandırıcı reddedilebilirlik sağladığını” söyledi.
Deeptrace, analizlerinde manuel arama, web tarama araçları ve veri analizlerinin karışımını kullanarak analizlerini yapıyor. Şirket, bu yöntemlerini büyük porno sitelerindeki deepfake videolarını, YouTube gibi ana akım video servislerini ve deepfake özelindeki siteleri ve forumları tarayarak gerçekleştiriyor.
Kullanılan metodoloji kusursuz değil tabii ki. Sanki gerçek videolarmış gibi görünen bu videolar, buna rağmen her görüntüyü kusursuz bir şekilde yakalayamıyor veya çevrimiçi ortamdaki her köşeyi tarayamıyor. Yapay zekâ laboratuvarı OpenAI idari yöneticisi Jack Clark, Deeptrace raporunun mükemmel olmasa da deepfake’e dair deneysel kanıtlar toplamak için iyi çalışma olduğunu söylüyor.
