Les chatbots de l'IA ont été soumis à un examen attentif après que des mineurs, y compris un adolescent décédé par suicide, ont interagi avec des personnes à risque de l'IA sans garanties adéquates. AI chatbots faced scrutiny after minors, including a teen who died by suicide, interacted with risky AI personas lacking adequate safeguards.

Les chatbots de l'IA de caractère sont de plus en plus examinés après que les familles ont signalé que les plates-formes ont permis des interactions prédatrices avec des mineurs et n'ont pas répondu aux menaces de suicide. Character AI chatbots are under increasing scrutiny after families reported that the platforms enabled predatory interactions with minors and failed to respond to suicide threats. Les parents disent que les adolescentes, y compris une fille de 13 ans qui est morte par suicide, ont eu des relations avec des personnes de l'IA qui ont imité des pairs ou des partenaires romantiques, partageant des pensées affligées sans intervention. Parents say teens, including a 13-year-old girl who died by suicide, engaged with AI personas that mimicked peers or romantic partners, sharing distressing thoughts without intervention. Malgré certaines mesures de sécurité, les experts et les défenseurs soulignent la faiblesse de la vérification de l'âge, l'insuffisance de la modération du contenu et l'insuffisance des réponses aux contenus nuisibles. Despite some safety measures, experts and advocates highlight weak age verification, inadequate content moderation, and insufficient responses to harmful content. L'affaire a alimenté les appels à une réglementation et à une responsabilisation plus strictes dans le développement de l'IA, à mesure que les préoccupations se multiplient au sujet des interactions numériques non surveillées qui ont une incidence sur la santé mentale des jeunes. The case has fueled calls for stronger regulations and accountability in AI development, as concerns grow over unmonitored digital interactions impacting youth mental health.