Yapay zeka teknolojilerinin gelişimi, bilim insanlarını tedirgin etmeye başladı. İnsan kontrolü olmadan kendi hedeflerini seçip yok etmeye programlanabilir silahların yolunu açan gelişmelere karşı alınan önlemler artıyor. Temel bir etik soruna ilişkin önceden adım atmak isteyen teknoloji devleri, ortak bir anlaşmaya imza atarak süreci daha berrak kılmaya çalışıyorlar.
Stockholm'de düzenlenen 2018 Uluslararası Yapay Zeka Konferansı'nda (IJCAI) yayınlanan anlaşma, yapay zekaların “varoluşsal riskini” azaltmayı amaçlayan bir araştırma enstitüsü olan Future of Life Institute tarafından düzenlendi. Yani bir devlet kuruluşu ya da uluslarüstü bir örgütün işi değil; tamamen teknoloji devlerinin gönüllü eylemleri sonucunda bu adımlar atıldı. Böylece tarihte ilk kez, ölümcül otonom silahlara karşı, bağımsız bir sözleşme imzalanmış oldu.
İmza atanlar arasında Tesla CEO’su Elon Musk, Google’ın yapay zeka kolu DeepMind’ın müdürlerinden Shane Legg ve Demis Hassabis, yine aynı şirketin kurucularından olan Mustafa Süleyman, Skype kurucuları Jaan Tallinn ve arkadaşları da var. Bu isimler haricinde yapay zekaya yönelik bilimsel araştırmalarla adlarını duyuran saygın bilim insanları da listede bulunuyor.
MIT'de fizik profesörü olan imzacı Max Tegmark, yaptığı açıklamada teknoloji liderlerinin konuşmak yerine eyleme geçtiklerini vurguladı. Bu listedeki isimlerin hepsi, insanları öldürmeye yönelik olan kendiliğinden karar verme kabiliyetine sahip teknolojiler üretemeyecekler. Açıklamalara göre listedeki isimler, yapay zeka silahlarını biyolojik silahlar kadar insanlık dışı görüyorlar.
Bu anlaşmaya kadar yapılan bütün benzer bağımsız girişimlere destek toplama çağrıları etkisiz kalmıştı. Ayrıca yapay zeka destekli ölüm makinelerine ilişkin teknolojilerin artık çok yaygın olması dolayısıyla uzmanlar, ülkelerin hukuksal düzenlemeler yapamayacaklarını söylüyorlar. Anlaşılan o ki listedeki her isim düşündüğümüzden de endişeli.
İşte teknoloji devlerinin gönüllü olarak imzaladıkları anlaşma metninin tamamı:
Yapay zeka (AI), askeri sistemlerde önemi artan roller üstlenmeye hazırdır. Vatandaşların, yasama birimlerinin ve politik liderlerin, yapay zekanın kabul edilebilir ve kabul edilemez kullanım alanları arasında ivedilikle ayrım yapmaları gerekiyor.
Buradan hareketle bu anlaşmada imzası bulunan kişiler, insanların yaşamlarını ellerinden alma kararının asla bir makineye devredilmemesi gerektiği konusunda hemfikirdir. Makinelerin kontrolünde gelişen ve başka hiç kimsenin suçlanmayacağı yaşam alma kararları vermesine izin veremeyiz, bu ahlaki bir unsurdur.
Güçlü bir pragmatik argüman olarak; insan müdahalesi olmadan hedefleri seçen ölümcül otonom silahlar, her ülke ve birey için tehlikeli bir şekilde istikrarsızlık yaratacaktır. Binlerce yapay zeka araştırmacısı, söz konusu risklerde; ölümcül otonom silahların özellikle gözetim ve veri sistemlerine bağlandığında güçlü bir şiddet ve baskı aracı haline gelebileceği konusunda hemfikirdir.
Ölümcül otonom silahlar; nükleer, kimyasal ve biyolojik silahlardan oldukça farklı özelliklere sahiptirler. Tek bir grubun yürüttüğü tek taraflı eylemler, uluslararası toplulukların yönetmesi gereken teknik araçlara karşı gelebilir. Bu gruplar, küresel yönetişim sistemlerinden yoksun olunan bir silahlanma yarışını çok kolay bir şekilde kırabilirler. Böyle bir silahlanma yarışını önlemek, ulusal ve küresel güvenlik için yüksek bir öncelik olmalıdır.
Aşağıda imzası bulunan bizler, hükümetleri ve hükümet liderlerini, ölümcül otonom silahlara karşı güçlü uluslararası normlar, düzenlemeler ve yasalarla iyi bir gelecek yaratmaya çağırıyoruz. Şu anda aramızda bulunmayanlarla birlikte bizler, kendimizi yüksek bir standartta tutmayı seçiyoruz: Bizler öldürücü özerk silahların gelişimine, üretimine, ticaretine ya da kullanımına ne katılacağız ne de destek vereceğiz. Teknoloji şirketlerinin ve kuruluşlarının yanı sıra liderler, politikacılar ve diğer bireylerin bu taahhütte bize katılmasını istiyoruz.
Söz konusu metnin orijinaline ve imza listesinin tamamına buradan ulaşabilirsiniz.
