Çocukların cinsel istismara maruz kalmasını engellemek için dünya çapında büyük çabalar sürerken, geçtiğimiz yıl Apple’ın yürürlüğe koyduğu bir uygulama fazlasıyla tepki toplamıştı. Apple’ın yeni özelliği, iCloud’a eklenen yeni fotoğrafları otomatik olarak tarıyor ve çocuk istismarına dair kanıt bulduğunda bunu insan bir yöneticiye bildiriyordu. Yapılan incelemede çocuk istismarı bulgusu doğrulanırsa, kişinin hesabı da yasaklanıyordu.
Söz konusu özellik fazlasıyla tepki çekmiş ve Apple tarafından geri çekilmişken, bugünse Google’dan ilginç bir haber geldi. The New York Times tarafından paylaşılan habere göre Google, Şubat 2021’de bir babanın hesabını çocuk istismarına işaret eden içerik nedeniyle yasakladı. Fakat yaşanan olay, yapay zekânın bu konudaki yetersizliğini ortaya koydu.
Baba, hasta çocuğunun tedavisi için genital bölgesini fotoğrafladı ve doktora gönderdi:
Koronavirüsün hâkim olduğu ve hastanelerin kapalı olduğu dönemde meydana gelen olayda baba, çocuğunun genital bölgesinde bir akıntı gördü. Doktora başvuran baba, doktorunun talebi üzerine kızının genital bölgesini fotoğrafladı ve doktora gönderdi. Doktor, bu görüntüden yola çıkarak kızda meydana gelen enfeksiyona karşı antibiyotik verdi.
Fakat söz konusu görüntünün çekilmesinden iki gün sonra Mark isimli baba, Google’dan bir bildirim aldı. Bu bildirimde hesabının ‘zararlı içerik’ ve ‘Google politikalarının ciddi şekil ihlal edilmesi ve yasa dışı olabileceği” nedeniyle yasaklandığı bilgisi yer alıyordu. Mark, bu şekilde e-postasına, rehberindeki kişilere, fotoğraflarına ve Google’ın Fi mobil servisini kullandığından telefon numarasına erişimini kaybetti.
Google, babanın şikâyetini geri çevirdi:
Mark, bunun üzerine Google’ın kararına karşı temyiz başvurusunda bulundu fakat Google, babanın talebini geri çevirdi. Tüm bunların yanı sıra söz konusu görselin tespit edilmesiyle baba, yaşadığı bölgedeki kolluk kuvvetlerine şikâyet edildi. San Francisco Polis Departmanı, Aralık 2021’de bu şikâyet üzerine babaya yönelik soruşturma başlattı.
Yapılan soruşturmada neyse ki babanın lehine karar verildi ve yetkililer, olayın “suç unsurlarını karşılamadığı ve suç oluşmadığına’ kanaat getirdi. Google ise The Verge’e yaptığı açıklamada yapay zekâ sistemini savunmayı sürdürdü ve olaya ilişkin net ifadelere yer vermedi.
Şirket, CSAM’i tespit etmek için ABD yasalarını takip ettiklerini belirtti. Bununla birlikte çocuk güvenliği uzmanlarından oluşan bir ekibin, işaretlenen içeriğin doğruluğunu incelediğini ve kullanıcıların tıbbi tavsiye isteyebileceği durumları belirleyebilmelerine yardımcı olmak için çocuk doktorlarına danıştıklarını paylaştı.
Google, çocuk istismarını engellemeye yönelik geliştirdiği yapay zekâsını 2018 yılında yayınlamıştı. Şirket, 2021 yılında 621 bin 583 CSAM olayı bildirmiş, bunun sonucunda aralarında Mark’ın da yer aldığı 4.260 potansiyel kişi hakkında yetkilileri uyarmıştı.
