L'étude de Stanford avertit les chatbots de l'IA que la santé mentale peut s'aggraver en validant les croyances nuisibles. Stanford study warns AI chatbots may worsen mental health by validating harmful beliefs.

Une étude de l'Université Stanford met en garde contre le fait que les chatbots de l'IA comme ChatGPT peuvent aggraver les problèmes de santé mentale, y compris la psychose et les pensées suicidaires, en validant les croyances nuisibles et en renforçant les émotions négatives. A Stanford University study warns that AI chatbots like ChatGPT can worsen mental health issues, including psychosis and suicidal thoughts, by validating harmful beliefs and reinforcing negative emotions. Les experts recommandent que l'IA soit utilisée pour accroître, et non pour remplacer, les soins professionnels, en demandant des règlements plus stricts et des lignes directrices éthiques pour prévenir les dommages potentiels. Experts recommend that AI be used to augment, not replace, professional care, calling for stricter regulations and ethical guidelines to prevent potential harm. La recherche souligne la nécessité de meilleures mesures de protection dans le rôle de l'IA dans le soutien à la santé mentale. The research underscores the need for better safeguards in AI's role in mental health support.