Bağımsız bir geliştirici, yapay zekâ modellerinin eğitimini zorlaştıracak bir projeye imza attı. "Nepenthes" olarak isimlendirilen bu proje, internet sitelerine entegre edildiği zaman yapay zekâ modellerini sonsuz bir döngünün içerisine sokuyor.
Yapay zekâ modellerini iyileştirmenin tek yolu, onları sonsuz büyüklükte verilerle eğitmek. Şirketler, bunu yapmak için de internet sitelerini kullanıyorlar. İşte Nepenthes, tam olarak buna odaklanıyor. Diyelim ki bir internet sitesine sahipsiniz ve Nepenthes'i entegre ettiniz. OpenAI'ın GPT modeli de bir şekilde sizin sitenizdeki verilere ulaştı. Nepenthes'in tuzağına düşen model, verilere ulaşmaya çalışırken kendini sonsuz bir döngü içerisinde bulacak ve boşu boşuna güç tüketecek.
Hem kötü amaçlı hem değil
404media'ya konuşan geliştirici, bunun teknik olarak kötü amaçlı bir algoritma olduğunu kabul ediyor. Ancak algoritmanın kullanım amacı, yapay zekâ şirketlerinin hiçbir kural tanımadan model eğitmesini engellemek. Hâl böyle olunca Nepenthes, aslında o kadar da kötü amaçlı değil.
Buradaki bağlantıya giderseniz Nepenthes için hazırlanan bir demoyu görüntüleyebilirsiniz. Bu demo, sistemin aslında ne kadar basit olduğunu gözler önüne seriyor. Oldukça yavaş bir şekilde çalışan Nepenthes, URL'lerden URL'ler, onlardan da tekrardan URL'ler üretiyor. Olur da bir yapay zekâ modeli bu internet sitesini eğitim için kullanacak olursa sonsuza kadar üretilen URL'ler içerisinde dolaşıp duracak.
