Yapay zekâ çok ciddi seviylere gelip hepimizi şaşırtmaya devam ederken maalesef kötü amaçlar için de kullanılıyor. Bunlardan biri de uygunsuz içerikler ve görseller oluşturulmak için kullanılması. Maalesef bu tarz içerikler, çocuklara kadar inebiliyor.
ABD’de yaşanan yeni bir olay da bunun en yeni örneği. Wisconsin eyaletinde bir yazılım mühendisi, yapay zekâ yoluyla binlerce uygunsuz çocuk görselleri üretmek ve bunları dağıtmak suçlamasıyla tutuklandı.
Bilgisayarında 13 bin yapay zekâyla oluşturulmuş çocuk görseline ulaşıldı!
Söz konusu kişinin ismi Steven Anderegg. Mahkeme belgelerine göre 42 yaşındaki Anderegg, teknoloji konusunda çok bilgili ve çok uzun yıllardır yazılım mühendisliği yapıyor. Bu adamın, 15 yaşındaki bir çocuğa Instagram üzerinden yapay zekâyla oluşturulmuş çıplak çocuk görselleri gönderdiği söyleniyor. Ekim 2023’te gönderdiği söylenen bu mesajların ardından kolluk kuvvetlerinin radarına girmiş.
Instagram’dan edinilen bilgilere göre Anderegg, ayrıca platformda BDSM temalı deri kıyafet giyen yapay zekâyla oluşturulmuş çocukları hikâyesinde de paylaşmış. Hatta Telegram üzerinden diğer kişilere ulaşıp bu görsellerin daha fazlasına ulaşabileceklerini söylemiş. Bir kullanıcının iddiasına göre Anderegg, kendisine “çok sayıda” bu tarz görsele sahip olduğunu söylemiş.
Tüm bunların ardından kolluk kuvvetleri Anderegg’e yönelik operasyon düzenledi. Operasyon sonucunda bilgisayarında 13 bin civarında yapay zekâ ile oluşturulmuş çıplak veya yarı çıplak çocuk görsellerine ulaşıldı. Bu da durumun ne kadar ciddi olduğunu gözler önüne serdi.
Görseller Stable Diffusion ile oluşturulmuş
Bunun yanı sıra yetkililer, Anderegg’in söz konusu görselleri üretmek için Stability AI’ın dünya çapında popüler bir metinden görsel aracı olan Stable Diffusion’dan yararlanmış. Görselleri oluşturmak için son derece spesifik ve açık komutlar kullandığı söyleniyor. Ayrıca, yetişkin görseli üretmesinin önüne geçmek için olumsuz yönlendirmeler yaptığı ve “cinsellik konusunda uzmanlaşmış” olarak nitelendirilen üçüncü taraf Stable Diffusion eklentileri kullandığı da ekleniyor.
Yani teknoloji konusunda ileri düzeyde bilgili bir insan olması sayesinde bunları yapabilmiş. Zaten CV’sinde de yapay zekâ modellerinde mükemmel teknik anlayışa sahip olduğu görülmüş. Anderegg, suçlu bulunursa 70 yıla kadar hapis cezasıyla karşı karşıya kalacak. Ancak önerilen cezanın ömür boyuna kadar çıkabileceği söyleniyor.
Bu olay, yapay zekânın kötüye kullanımının son örneği. Güvenlik konusunda çok önlem aldığını söyleyen Stability AI’ın tüm dünyanın kullandığı modeli Stable Diffusion’ın başrolde olması da çok endişe verici. Eğer gerekli önlemler alınmazsa maalesef bu tarz şeyleri daha fazla görebiliriz.
