Bu ay kullanıma sunulan yapay zekâ destekli arama motoru ChatGPT Arama'nın, yanıltıcı özetler oluşturabilecek şekilde manipüle edilebildiği ortaya çıktı.
The Guardian tarafından yapılan bir araştırmada, web sitelerine eklenen gizli metinler sayesinde, olumsuz yorumların göz ardı edilip "tamamen olumlu" özetlerin sunulduğu tespit edildi.
ChatGPT Arama manipüle edilebiliyor
ChatGPT Arama, bir web sayfasının ürün incelemeleri gibi içerikleri özetleyerek taramayı hızlandırmayı amaçlıyor. Ancak The Guardian'ın araştırmasına göre, gizli metin saldırılarıyla ChatGPT Arama yanıltıcı özetler ve zararlı kodlar üretebiliyor. Bu tür saldırılar büyük dil modelleri için bilinen bir risk olmakla birlikte ilk kez canlı bir yapay zekâ destekli arama motorunda tespit edildi.
Google, arama motoru alanındaki deneyimi sayesinde benzer sorunlarla daha etkin bir şekilde başa çıkabiliyor. OpenAI ise yaşanan bu olay hakkında yorum yapmaktan kaçındı ancak kötü niyetli web sitelerini engellemek için çeşitli yöntemler kullandığını ve sistemlerini sürekli olarak geliştirdiğini belirtti.