Yapay zekâ modelleri her ne kadar heyecan verici olsa da bazı olumsuzluklara yol açabiliyor. Bundan birkaç gün önce, Papa’nın şişme mont giydiği bir görsel ortaya çıkmış ve kısa sürede sosyal medyada popüler olmuştu. Birçok insan tarafından gerçek sanılan bu görsel, aslında yapay zekâ aracı Midjourney tarafından oluşturulmuştu.
Tüm bu tartışmalar sürerken, Midjourney'den gelen yeni karar ise yeni bir infiale yol açmıştı. Geçtiğimiz gün Midjourney'in ücretsiz sürümü kullanıma kapatılmış, gerekçesi ise aşağıda da göreceğimiz Donald Trump ve Papa gibi fotoğrafların üretimi olarak paylaşılmıştı. Bugün, konu hakkında açıklama geldi.
GÜNCELLEME: Midjourney'in kapanma nedeni kötüye kullanım değil, kullanıcı sayısındaki yükseklik:
The Verge'ün ulaştığı CEO David Holz, Midjourney'in ücretsiz kullanıma kapatılmasının nedenini "yeni kullanıcı sayısındaki artış" ve "pek çok insanın geçici hesaplarla ücretsiz fotoğraf çıkarmaya çalışması" olarak açıkladı. Ayrıca Midjourney versiyon 5'in hiçbir zaman ücretsiz kullanıcılara sunulmadığı vurgulandı.
Yani internette viral olan Donald Trump ve Papa görselleri, ücret vererek Midjourney kullanan kullanıcılar tarafından oluşturuldu.
Neler yaşanmıştı?
Midjourney'in kötüye kullanım nedeniyle kapatıldığı şüphesi ise yine Holz'ün açıklamasından kaynaklanıyordu. Holz, paylaştığı ilk açıklamasında ücretsiz kullanımın "aşırı talep ve denemenin kötüye kullanımı" nedeniyle devre dışı bırakıldığı şeklindeydi.
İşte buradaki "kötü kullanım", halihazırda gündem olması nedeniyle Donald Trump ve Papa görselleriyle bağdaştırılmıştı. Fakat Holz, son açıklamasında bunun bir yanlış anlaşılma olduğunu söyleyerek ne anlama geldiğini bir üst başlıktaki şekilde açtı.
Üretken yapay zekâların oluşturduğu görseller tartışma yaratıyor, yaratmaya da devam edecek:
İçerikleri için pek de kısıtlayıcı politikalara sahip olmayan Midjourney, “farklı ülkelerden gelen şikayetlere göre” belirlediği bazı kelimeleri yasaklıyordu. Ancak bu kelimelerin tamamını içeren liste hiç paylaşılmadı. Sahte görsellerin yayılmasının ardından ise “tutuklandı” (Donald Trump görseli) gibi kelimeler eklenerek bu liste genişletildi.
Ancak bunun pek de bir değişikliğe yol açtığı söylenemez. The Verge tarafından yapılan denemelerde, “tutuklandı” yerine “kelepçelendi” gibi kelimeler kullanıldığında yine benzer sonuçların çıktığı görüldü. Bu da daha sıkı kısıtlamalara ihtiyaç olabileceğini ortaya koydu.
Kısacası yapay zekâ araçları her ne kadar büyüleyici olsa da çok büyük problemleri de beraberinde getiriyor. Bu tarz teknolojiler çok hızlı bir şekilde gelişmeye devam ederken şirketlerin nasıl adımlar atacağını birlikte göreceğiz.