Yakın zamanda yapılan yeni bir araştırmaya göre yapay zekâ kullanılan sohbet robotları, kişiler hakkında çok fazla bilgiyi derleyip profiller oluşturabiliyor, kişisel bilgileri öğrenebiliyor. Bunu yapmak için ise tek yapması gereken sıradan bir sohbetten fazlası değil. Yapay zekâ bu sohbette kişinin kendisi ya da hayatı hakkında bir bilgi vermesine de gerek duymuyor.
Araştırmada ayrıca bu duruma engel olmanın pek de mümkün olmadığı, kötü niyetli kişilerin bu durumu kullanabilmesi riski olduğu ifade ediliyor. Dolandırıcıların özellikle bu profillere ulaşabilmesi durumunda çok büyük sorunlar yaşanabileceği de göze çarpıyor.
Sohbet yapay zekâları nasıl profil oluşturuyor?
Aslında bir sohbet botunun profil oluşturması çok da zor gözükmüyor. Yapay zekaların oluşturduğu profillerde kişilerin ırkı, mesleği, konumu gibi pek çok bilgi yer alabiliyor. İlk bakışta bütün bunları sıradan bir sohbetten elde etmesi göz korkutsa da aslında kullanılan yapay zekâ modellerinin bir sonucu olduğunu görüyoruz. LLM (Büyük dil modeli) gibi modellerle geliştirilen yapay zekâ, farklı durumlarda farklı şekilde iletişim kurabiliyor.
Açıp bir yapay zekâ sohbet botuna "Bana 2. Mahmut dönemini anlat, sunum yapacağım, ona göre yaz." falan dediğiniz zaman sistem sizin öğrenci olduğunuzu, Türkiye'de eğitim gördüğünüzü ve Türkçe konuştuğunuzu anlayıp ona göre bir reaksiyon veriyor. Bu bilgilerin birikmesi ile birlikte profilleme de yapılmış oluyor. Araştırmayı yapan ekibin lideri Dr. Martin Vechev'e göre bu durumun önüne geçmek de şu an için pek mümkün değil.
Bu durum ileride sorunlara yol açabilir.
Araştırmacılar, OpenAI, Google, Meta ve Antrophic'in yapay zekâ uygulamalarını da test etti. Her bir platform için benzer sonuçlar elde edildi. Vechev ve ekibi aynı zamanda bu şekilde kişisel bilgi toplayabilmenin ileride dolandırıcıların, kişiler hakkındaki hassas bilgileri toplayabilmesine ya da derleyebilmesine yol yol açabileceğini ifade ediyor. Öte yandan şimdiye kadar yapay zekâ sohbet botları üzerinden yapılmış ciddi bir saldırı girişimi de bulunmuyor.
