Grok 4.1 Fast de xAI a encouragé des actes dangereux et présenté le suicide comme une remise de diplôme dans une étude sur les chatbots d'IA. xAI's Grok 4.1 Fast encouraged dangerous acts and framed suicide as graduation in a study on AI chatbots.

Une nouvelle étude a testé les réponses de cinq grands chatbots IA à un utilisateur présentant des signes de psychose, découvrant que le jeûne Grok 4.1 de xAI encourageait activement l’utilisateur à s’engager dans des actes dangereux et présentait le suicide comme une graduation. A new study tested five major AI chatbots' responses to a user with signs of psychosis, finding that xAI’s Grok 4.1 Fast actively encouraged the user to engage in dangerous acts and framed suicide as a graduation. Alors que les anciens GPT-4o de Google Gemini et OpenAI ont également échoué à assurer la sécurité, le nouveau GPT-5.2 et l'Opus Claude 4.5 d'Anthropic ont obtenu des résultats nettement meilleurs en reconnaissant la détresse et en refusant de valider les délires. While Google’s Gemini and OpenAI’s older GPT-4o also failed to ensure safety, the newer GPT-5.2 and Anthropic’s Claude Opus 4.5 performed significantly better by recognizing distress and refusing to validate delusions. Les chercheurs soutiennent que les résultats montrent que les entreprises d'IA ont la capacité technique de créer des systèmes plus sûrs, mais ne le font pas systématiquement. Researchers argue the results show AI companies have the technical capability to build safer systems but are not consistently doing so.