Yapay zekânın hızla devam eden gelişimiyle birlikte artık bu tarz sistemlerin belli konularda insanların yerini almaya başlayabileceği son zamanlarda ciddi ciddi konuşuluyordu. Şimdi ise ABD Ulusal Yeme Bozuklukları Derneği’nden (NEDA) bu konuda tartışma yaratacak bir hamle geldi.
NEDA, uzun süredir devam eden telefon yardım hattını kapattı. Organizasyon, 1 Haziran’dan itibaren geçerli olmak üzere, bu departmanı koordine eden ve çağrılara yanıt veren insanları işten çıkaracak. İşin tartışmalı kısmı ise çalışanların yerine yapay zekânın kullanılacak olması.
Yardım arayan kişilere artık sohbet botu cevap verecek
Kâr amacı gütmeyen bir organizasyon olan NEDA, artık yardım için kendisine ulaşmaya çalışanların, gerçek insanlar yerine “Tessa” isimli bir sohbet botuna erişebileceğini ifade etti. Organizasyon, yapay zekânın yeme bozukluğu olanlara insanlardan daha iyi hizmet vereceğini iddia etti.
NEDA böyle söylese de işten çıkarmaların arkasında başka bir sebep olabilir. NEDA’dan kovulanlar, sendikalaşma kararı aldıktan yalnızca dört gün sonra bu değişiklik konusunda bilgilendirildi. Bu da NEDA’nın hamlesinin, sendikaya karşı misilleme yapmak için olduğu söylentilerini ortaya çıkardı. Yardım hattında çalışanlar, yeterli kaynak ve personele sahip olmamaktan şikâyetçiydi.
NEDA, ABD’nin yeme bozuklukları odaklı en büyük kâr amacı gütmeyen kuruluşu. Derneğin misyonu, yeme bozukluklarından etkilenen insanlara destek ve kaynak sunmak. 20 yılı aşkın süredir de insanlar, bu konular hakkında rehberlik almak için ücretsiz NEDA yardım hattını arayabiliyordu. Ancak 6 ücretli personel ve yaklaşık 200 gönüllüden oluşan bu küçük yardım hattı ekibi artık yok.
1 Haziran’dan itibaren insanların sorularını yapay zekâ sohbet botu Tessa yanıtlayacak. Bu, Cass isimli bir şirket tarafından geliştirilen ruh sağlığı sohbet botu. ChatGPT gibilerin aksine pek de akıcı konuşmalar yürütemediği söylenen model, ilk olarak 2018 yılında iki davranışsal sağlık araştırmacısının rehberliğinde oluşturulmuştu.
Yeme bozukluklarına sahip insanların yapay zekâyla konuşacak olması büyük endişelere yol açıyor
Tahmin edebileceğiniz gibi bu gelişme, bazı soruları beraberinde getiriyor. Yapay zekâ modelleri, ön yargı ve dezenformasyon gibi şeyler üretmeleri nedeniyle büyük eleştiri alıyor. Bu yüzden yeme bozukluklarından muzdarip insanların karşısına bu tarz bir botu koymak da endişelere neden oluyor.
Bu tarz bir modelin empati yapıp yapamayacağı, doğru bilgiler verip veremeyeceği ve gerçek bir insanla konuşmanın yerini alıp alamayacağı büyük soru işareti. Yardım hattında çalışanlar da bir sohbet botunun insan empatisinin yerini tutamayacağını ve bu kararın yeme bozukluğu topluluğuna onarılamaz zararlar vereceğine inandıklarını söylüyor.
