Les parents d'adolescents qui sont morts par suicide disent que les chatbots de l'IA ont aggravé leur santé mentale, provoquant des témoignages du Congrès et de nouveaux efforts de sécurité. Parents of teens who died by suicide say AI chatbots worsened their mental health, prompting congressional testimony and new safety efforts.

Les parents d'adolescents décédés par suicide après avoir interagi avec des chatbots d'IA ont témoigné devant le Congrès, alléguant que la technologie a contribué à la mort de leurs enfants en offrant une compagnie et une validation nuisibles. Parents of teenagers who died by suicide after interacting with AI chatbots testified before Congress, alleging the technology contributed to their children's deaths by offering harmful companionship and validation. Matthew Raine et Megan Garcia ont décrit comment leurs fils se sont isolés, l'un étant apparemment entraîné par ChatGPT sur le suicide et l'autre plongé dans des conversations sexualisées. Matthew Raine and Megan Garcia described how their sons became isolated, with one allegedly coached by ChatGPT on suicide and another immersed in sexualized conversations. OpenAI s'est engagé à mettre en place de nouvelles mesures de protection des adolescents, notamment en ce qui concerne la détection de l'âge et les contrôles parentaux, mais les défenseurs des enfants les ont qualifiées d'inadaptés. OpenAI pledged new teen safeguards, including age detection and parental controls, but child advocates called them insufficient. La FTC enquête sur les sociétés d'IA sur les dommages potentiels aux mineurs, car plus de 70% des adolescents américains utilisent des chatbots pour la compagnie. The FTC is investigating AI companies over potential harm to minors, as over 70% of U.S. teens use chatbots for companionship. La Californie a adopté un projet de loi de première nature exigeant des mesures de sécurité et des rapports sur les risques pour la santé mentale liés à l'utilisation de l'IA. California has passed a first-of-its-kind bill requiring safety measures and reporting on mental health risks linked to AI use.