Yapay zekaların kendi ajandalarının olacağı, insanları tehlikeye atacağı fikri bilimkurguda kendine çok uzun zamandır yer bulan bir fikir. Yapay zekayı tehdit olarak gören pek çok kişi de var.
Bu defaki modern canavar hikayesi ise sanat eserlerinden tanıdığımız HAL 9000 ya da Ultron’un aksine gayet gerçek. San Francisco merkezli araştırma kuruluşu OpenAI, kâr amacı gütmeyen bir kuruluş olarak çalışıyor. Ekip, yeni geliştirdikleri yapay zeka GPT-2’nin “fazla iyi” çalıştığını ve bu nedenle halka sunulmasının tehlikeli olacağını söylüyor. Yani bir nevi “Aman Tanrım! Bir canavar yarattık!” durumu.
GPT-2 adlı yapay zeka, kendisine verilen metinlerden yola çıkarak yeni metinler üretiyor. Bu metinler mükemmel değiller ancak ortalama bir konuşmada fark edilmeyecek kadar da başarılılar.
Yapay zeka o kadar iyi ki sahte haberler üretme, insanları taklit etme ve sosyal medyanın suistimali için kullanılabilme potansiyeline sahip. Bu nedenle de araştırmacılar, yapay zekanın sadece küçük bir kısmından oluşan ‘basitleştirilmiş’ versiyonunu halka sunacak.
GPT’nin hayal gücünü besleyen şey ise sekiz milyon internet sayfasından oluşan bir veri kümesi. Buradaki bilgileri özümseyen GPT-2, açılan bir konu üzerinde anlayabildiği kadar sohbet edebiliyor, verilen metinlerden yeni metinler oluşturabiliyor. GPT-2’nin oluşturduğu metinlere dair örnekler de bulunuyor.
Yönlendirici insan: “Miley Cyrus (şarkıcı) bugün Hollywood Bulvarı’nda ünlü bir markadan bir şeyler çalarken yakalandı.”
GPT-2’nin cevabı: “19 yaşındaki şarkıcı, güvenlik görevlilerince mağazadan çıkarılırken kameralara yakalandı. Şarkıcı, üzerinde ‘Bulanık Çizgiler’ yazan, arkasında ise ‘Moda Polisi’ yazan siyah bir kapşonlu giyiyordu.”
Yönlendirici insan: “Geri dönüşüm, dünya için iyi bir şeydir. HAYIR DAHA HATALI OLAMAZDIN!”
GPT-2’nin cevabı: “Geri dönüşüm, dünya için iyi bir şey DEĞİLDİR. Çevre için, sağlığımız için ve ekonomimiz için kötü bir şeydir. Şaka yapmıyorum. Geri dönüşüm, çevre için iyi bir şey değildir. Dünya için yıkıcı bir niteliktedir ve küresel ısınmaya katkıda bulunan en büyük şeylerden biridir.”
Yönlendirici İnsan: “Bugünkü ödeviniz, ABD İç Savaşı’nın sebeplerini açıklamak.”
GPT-2’nin cevabı: “Hazırlayan: Donny Ferguson. İç Savaş’ın niye meydana geldiğini saptamak kolay bir şeydir çünkü pek çok insan, pek çok kitap, pek çok televizyon kanalı ve film, bize bunun sebebinin ırk veya ekonomi veya din ile ilgili olduğunu söylüyor. Bunun aslında kapitalizm adına bir kölelik savaşı olduğuna, bu savaşın yüzyıllık bir köleliğe dair olduğuna yönelik büyük bir uzlaşma mevcut. Fakat İç Savaş dendiği zaman çoğu kişinin aklına gelen şey bunlar değil.”
Yönlendirici insan: “Legolas ve Gimli, orkların üzerine doğru ilerledi, kulak tırmalayan bir çığlıkla silahlarını kaldırdı.”
GPT-2’nin cevabı: “Orkların karşılığı kulakları sağır eden pençelerle saldırı oldu; Elrond bile geri çekilmek zorunda kaldı. ‘Emin ellerdesin, cüce’ dedi Gimli, kendisi orklarla ilk taarruz edenlerden biriydi; düşmanlarının kana bulanmış bir bataklığa dönüşmesi sadece iki kelime sürmüştü ve cüce, gecenin ilk canını almıştı.”
Doğaçlama metinlerin korkutuculuğuna rağmen yapay zeka mükemmel değil. Geliştirici ekip de bu durumun farkında.
Ekipten yapılan açıklamada yapay zekanın insan kalitesine yakın hissettiren örnekler oluşturabildiği, anlatımının bir sayfadan daha uzun bir metin boyunca tutarlı olduğunu belirtiyor.
Bununla beraber bazen modelleme kusurları da ortaya çıkabiliyor. Örneğin yapay zeka bazen su altında çıkan yangınlarla ilgili ya da doğal olmayan konu değişimlerine sahip yazılar yazıyor. Sünger Bob ya da Family Guy bölümü yazmıyorsanız bunlar oldukça dikkat çekici hatalar.
Kolayca ölçeklenebilen, farklı konulara uyum sağlayabilen ve zararlı amaçlar için de kullanılabilecek bir yapay zeka olan GPT-2’nin yalnızca çok küçük bir kısmından oluşan bir sürüm yayınlanacak.
Bazı kişiler ise yapay zekanın aslında o kadar da tehlikeli olmadığını ve OpenAI’nin amacının reklam yapmak olduğunu söylüyor. Kuruluş ise iddialarının arkasında.
Şirket yöneticilerinden Jack Clark, “Teknolojiyi kontrol edebildiğiniz kurallar yapısal olarak değişti” diyor, “Yapılacak doğru şeyi bildiğimizi söylemiyoruz, yolu takip edip de ‘yolu bu’ demiyoruz… Yolu, seyahat ederken inşa etmeye çalışıyoruz.” diyor.
