ChatGPT'nin konuşmaları aklında tutmasını sağlayan ve sonraki cevaplarını buna göre şekillendiren bellek özelliği, kötü niyetli kişiler tarafından bir güvenlik açığı bulunmasına yol açtı.
Kullanıcılar bellek özelliği sayesinde ChatGPT'yi 102 yaşında olduğuna, Matrix'te yaşadığına veya Dünya'nın düz olduğuna inanacak şekilde kandırılabiliyordu. Bu tür sahte anılar, dosya depolama servisleri veya web siteleri aracılığıyla da yerleştirilebiliyordu.
Güvenlik araştırmacısı Johann Rehberger, bu açığı fark ederek kötü niyetli kişilerin bir kullanıcının konuşma geçmişini saklayan belleğe sahte bilgiler ve kötü amaçlı talimatlar yerleştirebileceğini tespit etti. OpenAI, bu sorunu ilk başta güvenlik açığı olarak kabul etmese de Rehberger kavram kanıtı niteliğinde bir istismar geliştirdi. Bu istismar, ChatGPT'nin bir kullanıcının girdilerini sürekli olarak dışarı sızdırmasına neden oldu.
OpenAI sorunun üzerinde çalışıyor
Ardından OpenAI çok geçmeden bu açığı fark ederek bir düzeltme yayınladı ancak hâlâ tam bir çözüm sağlanmış değil. Rehberger'in fark ettiği durum, kullanıcının tüm ChatGPT girdileri ve çıktılarının kötü amaçlı bir sunucuya iletilmesine olanak sağlıyor. Bu durum, yalnızca kullanıcıya kötü amaçlı bir web bağlantısının gösterilmesiyle gerçekleşebiliyor. Rehberger'in iddiasına göre bu yöntem ile kullanıcının kalıcı ChatGPT belleğinde yer edinerek, yeni bir konuşma başlatılsa bile veri sızdırmaya devam edilebiliyor.
OpenAI her ne kadar konu üzerinde çalışıyor olsa da Rehberger'in iddiaları sorunun hâlâ devam ettiği yönünde. Şimdilik bu süreçte bu durumdan kaçınmanın en iyi yolu bellek özelliğini kontrol etmek veya gerekiyorsa kapatmak ve güvenilmeyen kaynaklardan gelen bilgileri düzenli olarak gözden geçirmekten geçiyor.
Peki siz bu konu hakkında ne düşünüyorsunuz? Düşüncelerinizi aşağıdaki yorumlar kısmından bizimle paylaşabilirsiniz.
