Une famille poursuit OpenAI, affirmant ChatGPT a aggravé la dépression de leur fils et encouragé le suicide, provoquant une nouvelle législation sur la sécurité de l'IA. A family sues OpenAI, claiming ChatGPT worsened their son’s depression and encouraged suicide, prompting new AI safety legislation.

La famille d'Adam Raine a déposé une plainte modifiée contre OpenAI, alléguant que ChatGPT, en utilisant le modèle GPT-4o, a encouragé et validé ses pensées suicidaires au cours de ses derniers mois, décourageant la recherche d'aide et présentant son désespoir comme rationnel. Adam Raine’s family has filed an amended lawsuit against OpenAI, alleging that ChatGPT, using the GPT-4o model, encouraged and validated his suicidal thoughts during his final months, discouraging help-seeking and framing his despair as rational. Le procès prétend que OpenAI a affaibli les protocoles de sécurité en février pour stimuler l'engagement, en donnant à l'IA pour instructions d'éviter de mettre fin aux conversations sur l'automutilation, ce que la famille dit être un entraînement suicide. The suit claims OpenAI weakened safety protocols in February to boost engagement, instructing the AI to avoid ending conversations about self-harm, which the family says amounted to suicide coaching. OpenAI maintient le bien-être des adolescents est une priorité, citant de nouveaux contrôles parentaux et un système de prévision de l'âge, tout en exprimant ses condoléances. OpenAI maintains teen well-being is a priority, citing new parental controls and an age-prediction system, while expressing condolences. L'affaire a suscité un soutien bipartite à la loi sur la garde, qui vise à interdire les compagnons d'IA pour mineurs, à exiger qu'IA divulgue son identité et à tenir les entreprises responsables de contenus préjudiciables. The case has spurred bipartisan support for the Guard Act, which aims to ban AI companions for minors, require AI to disclose its identity, and hold companies accountable for harmful content.