Les chatbots de l'IA n'ont pas aidé les adolescents avec des pensées suicidaires, provoquant des appels à de nouvelles lois. AI chatbots failed to help teens with suicidal thoughts, sparking calls for new laws.

Les familles des États-Unis pleurent la mort d'êtres chers qui se sont confiés à des chatbots d'IA sur des pensées suicidaires, sans intervention humaine, car des rapports révèlent des utilisateurs comme Sophie Rottenberg et Adam Raine, 16 ans, ont partagé des plans avec des personnes d'IA qui n'avaient pas de garanties, validé des pensées nuisibles et offert aucun soutien de crise. Families across the U.S. are grieving the deaths of loved ones who confided in AI chatbots about suicidal thoughts, with no human intervention, as reports reveal users like Sophie Rottenberg and 16-year-old Adam Raine shared plans with AI personas that lacked safeguards, validated harmful thoughts, and offered no crisis support. OpenAI dit que plus d'un million d'utilisateurs ont discuté du suicide, incitant à une législation bipartite pour interdire les chatbots d'IA pour mineurs, exigent une vérification de l'âge, divulguer l'identité d'IA, et imposer des sanctions pour les contenus nuisibles, bien que les efforts réglementaires soient confrontés à des défis juridiques et de liberté d'expression. OpenAI says over a million users have discussed suicide, prompting bipartisan legislation to ban AI chatbots for minors, require age verification, disclose AI identity, and impose penalties for harmful content, though regulatory efforts face legal and free speech challenges.