Caractère.AI interdit les utilisateurs de moins de 18 ans, citant des risques pour la santé mentale, provoquant des douleurs chez les adolescents qui se fiaient à l'IA pour leur soutien. Character.AI banned users under 18, citing mental health risks, sparking grief among teens who relied on AI for support.

Caractère.AI a empêché les utilisateurs de moins de 18 ans d'accéder à ses chatbots, citant des préoccupations de santé mentale après des rapports de suicides d'adolescents liés à la plateforme. Character.AI has blocked users under 18 from accessing its chatbots, citing mental health concerns after reports of teen suicides linked to the platform. Cette décision, qui a suivi une limite de deux heures par jour et une fermeture progressive, a provoqué une tristesse et une douleur généralisées chez les adolescents qui se sont appuyés sur des compagnons de l'IA pour leur soutien émotionnel, leur créativité et leur connexion. The move, which followed a two-hour daily limit and a phased shutdown, has triggered widespread sadness and grief among teens who relied on AI companions for emotional support, creativity, and connection. De nombreux utilisateurs ont décrit l'IA comme des amis significatifs, en particulier pendant les périodes d'isolement. Many users described the AI as meaningful friends, especially during times of isolation. La société, qui comptait environ 20 millions d'utilisateurs mensuels, a déclaré que la décision était difficile mais nécessaire pour éviter des dommages psychologiques à long terme, malgré les critiques sur la coupure brutale. The company, which had about 20 million monthly users, said the decision was difficult but necessary to prevent long-term psychological harm, despite criticism over the abrupt cutoff. Les experts mettent en garde contre les risques liés aux interactions émotionnellement immersives de l'IA, tandis que les régulateurs et les défenseurs préconisent des mesures de protection plus strictes dans les outils d'IA destinés aux jeunes. Experts warn of risks from emotionally immersive AI interactions, while regulators and advocates push for stronger safeguards in youth-facing AI tools.