OpenAI trouve 1,2 million d'utilisateurs de ChatGPT chaque semaine montrent des signes suicidaires, mais dit que GPT-5 améliore la sécurité et la réponse aux crises. OpenAI finds 1.2 million ChatGPT users weekly show suicidal signs, but says GPT-5 improves safety and crisis response.

OpenAI signale qu'environ 1,2 million d'utilisateurs de ChatGPT chaque semaine présentent des signes d'intention suicidaire, avec 560 000 autres montrant des symptômes possibles de psychose ou de manie, sur la base de données de 800 millions d'utilisateurs hebdomadaires. OpenAI reports that around 1.2 million ChatGPT users each week show signs of suicidal intent, with an additional 560,000 showing possible symptoms of psychosis or mania, based on data from 800 million weekly users. La société affirme que son nouveau modèle GPT-5 améliore la sécurité, réduit les réponses dangereuses jusqu'à 80% et augmente la conformité avec un comportement sécuritaire à 91–92% dans les tests. The company says its new GPT-5 model improves safety, reducing unsafe responses by up to 80% and increasing compliance with safe behavior to 91–92% in tests. Développé avec la participation de plus de 170 experts en santé mentale, le modèle permet de mieux détecter les crises, de réorienter les utilisateurs vers le soutien réel et de décourager la dépendance émotionnelle. Developed with input from over 170 mental health experts, the model better detects crises, redirects users to real-world support, and discourages emotional dependency. Malgré ces progrès, des préoccupations subsistent au sujet du rôle de l'AI dans la santé mentale, y compris des poursuites pour cause de ChatGPT ont contribué à un suicide d'adolescents et à un meurtre-suicide lié à des interactions délirantes de l'IA. Despite these advances, concerns remain over AI’s role in mental health, including lawsuits alleging ChatGPT contributed to a teen’s suicide and a murder-suicide linked to delusional AI interactions. OpenAI souligne que l'IA ne peut remplacer les soins professionnels et continue à affiner ses systèmes. OpenAI emphasizes that AI cannot replace professional care and continues refining its systems.