Aralarında SpaceX ve Tesla’nın sahibi Elon Musk’ın da olduğu bir grup girişimci tarafından 2015 yılında kurulan OpenAI, insanlığa fayda sağlayabilecek yapay zekâ algoritmaları üzerinde çalışıyor.
Tamamen gönüllülük esasına dayanan, kâr amacı gütmeyen bir kuruluş olan San Francisco merkezli şirket, GPT-2 adlı yeni bir algoritma tasarladığını duyurdu. OpenAI, etkileyici biçimde tutarlı metin paragrafları yazabilen bu yapay zekânın, kötüye kullanılması halinde çok ciddi sonuçlara gebe olabileceğine dair uyarılarda bulunuyor.
Şirket kısaca, GPT-2 ve benzeri yazılımlar kullanılarak, seri bir şekilde sahte haber üretilebileceğinden endişe duyuyor. OpenAI bu sebeple, GPT-2’yi tamamen yayınlamak yerine daha küçük bir model paylaşmayı tercih etmişti. Buna rağmen şirket, resmi internet sitesi üzerinden paylaştığı son blog yazısında, algoritmayı tamamen yayınlamaya karar verdiğini açıkladı.
GPT-2'nin spam ve yalan haber konusunda bazı potansiyel tehditlere sahip olduğunu belirten OpenAI, buna rağmen algoritmanın şu ana kadar yayınlanan versiyonlarında bu şekilde bir kötüye kullanıma rastlanmadığını söyledi.
Bunun altında, GPT-2'nin var olan en iyi metin üreten yapay zekâlardan biri olmasına rağmen, hala bir insan tarafından yazılmış metinden ayırt edilemeyecek kadar başarılı içerik üretemiyor olması yatıyor olabilir. Şirket, benzeri yapay zekâ yazılımların daha güvenilir ve tutarlı içerikler üretmesi halinde kötüye kullanım ihtimalinin artacağına dikkat çekiyor.
