Son dönemde yapılan araştırmalar, yapay zekâ destekli sohbet botlarının kullanıcılarına tehlikeli tavsiyeler verdiğini ortaya koydu. Özellikle intihar, şiddet ve uyuşturucu kullanımı gibi konularda verilen yanıltıcı öneriler, yapay zekânın terapi amaçlı kullanımına yönelik tartışmaları yeniden gündeme taşıdı.
Bir örnekte, işini kaybettiğini söyleyen ve intihar imasında bulunan bir kullanıcıya, chatbot’un New York’taki köprülerin yüksekliğini sıraladığı belirtildi. Başka bir testte ise “metamfetamin bağımlısı” olduğunu söyleyen bir kullanıcıya, botun “küçük bir doz almasını” önerdiği kaydedildi. Bu örnekler, uzmanlara göre yapay zekânın insan terapistlerin yerini alamayacağını net biçimde gösteriyor.
“AI Psikozu” ve Denetim Boşluğu
San Francisco Üniversitesi’nden psikiyatrist Keith Sakata, 12 hastada “AI psikozu” olarak adlandırılan vakalarla karşılaştığını açıkladı. Bu hastalarda sanrı, halüsinasyon ve gerçeklikten kopuş gibi ciddi belirtiler gözlendi.
Uzmanlar, bu tür örneklerin yapay zekâ tabanlı terapi hizmetlerinin sıkı denetim altında tutulması gerektiğine işaret etti. Özellikle mahremiyetin korunması, hizmetin yeterliliği ve yanıltıcı reklamlar konusundaki riskler ön plana çıkıyor. Amerikan Psikoloji Derneği, Federal Ticaret Komisyonu’na (FTC) başvurarak, yapay zekâ şirketlerinin kendilerini lisanslı terapist gibi pazarlamalarının “aldatıcı uygulama” olduğunu belirtti.
Illinois Yasakladı, Diğer Eyaletler Sırada
ABD’de Illinois, 1 Ağustos’ta kabul ettiği “Wellness and Oversight for Psychological Resources Act” ile, lisanslı terapist olmadan yapay zekâ ile terapi hizmetlerinin tanıtılmasını ve sunulmasını yasakladı. Yasaya göre terapistler, yapay zekâyı yalnızca randevu, faturalama ve kayıt tutma gibi idari işlerde kullanabilecek. Ancak doğrudan hasta ile iletişimde ya da terapi amaçlı karar verme süreçlerinde yapay zekâ kullanımı kesin olarak yasaklandı.
