La startup ThroughLine détecte et redirige les utilisateurs de ChatGPT qui présentent des signes d'extrémisme violent vers des ressources de déradicalisation. ThroughLine startup detects and redirects ChatGPT users showing signs of violent extremism to deradicalization resources.

Une start-up néo-zélandaise, ThroughLine, développe un outil pour détecter et rediriger les utilisateurs de chatbots comme ChatGPT montrant des signes d'extrémisme violent vers des ressources de déradicalisation humaines et soutenues par l'IA. A New Zealand startup, ThroughLine, is developing a tool to detect and redirect users of chatbots like ChatGPT showing signs of violent extremism toward human and AI-supported deradicalization resources. Soutenu par OpenAI, Google et Anthropic, l'initiative vise à connecter les utilisateurs à risque aux lignes d'assistance réelles et au soutien spécialisé plutôt qu'à les bloquer, afin de répondre aux préoccupations selon lesquelles une modération agressive pourrait pousser les extrémistes vers des plateformes non réglementées. Backed by OpenAI, Google, and Anthropic, the initiative aims to connect at-risk users to real-world helplines and specialized support rather than blocking them, addressing concerns that aggressive moderation could push extremists to unregulated platforms. Le projet en est à ses débuts et aucune date de sortie n'a été fixée. The project is in early stages with no release date set.