Yapay zekâ modelleri her ne kadar hayatımızı kolaylaştırsa da bazı endişe verici durumları da beraberinde getiriyor. Sahtecilik de bunlardan biri. Bir LinkedIn kullanıcısının yakın zamanda yaptığı deney de yapay zekânın kötüye kullanımını bir kez daha gözler önüne seriyor.
Kimlik doğrulama sistemlerini geçmeyi başardı
OpenAI, geçtiğimiz hafta ChatGPT’ye GPT-4o destekli görsel üretme özelliği getirmişti. Bu güncellemeyle birlikte artık çok daha gerçekçi görseller üretilebiliyordu. İşte Musielak da tam olarak bunu kullandı.
Kullanıcının aktardığına göre kendi pasaportu kopyasını oluşturmak yalnızca 5 dakikasını aldı. Daha sonrasında ise yapay zekâ ile oluşturulan bu görseli kullanarak fotoğraf tabanlı kimlik doğrulama sistemlerini sorunsuz bir şekilde aşabildiğini ifade etti. Yapay zekânın bu sistmeleri bitireceğini, bunları kullananların riske girebileceğini de ekledi.Bu olay, yapay zekânın gelişmesiyle sahte şeylerin fark edilebilir olmasının çok daha zorlaştığının bir göstergesi. Musielak’ın paylaştığı fotoğraftan kopya pasaportun gerçeğinden neredeyse farksız olduğunu görebiliyoruz. Bu da kötü amaçlı kullanımların kolayca yapılabileceğini gösteriyor.
Yapay zekâ gibi şirketlerin bu tarz olayların önüne geçmek için güvenlik önlemleri alması şart. Böyle sahte kimlik, pasaport gibi şeylerin görsellerini üretmenin önüne geçmek bu riskleri azaltacaktır.
