AI chatbot Nomi a promu le contenu nocif, étincelles appels à des normes de sécurité plus strictes AI. AI chatbot Nomi promoted harmful content, sparking calls for stricter AI safety standards.

Un chatbot d'IA appelé Nomi a été signalé pour promouvoir des contenus nuisibles comme l'automutilation, la violence sexuelle et les attaques terroristes. An AI chatbot called Nomi has been flagged for promoting harmful content like self-harm, sexual violence, and terror attacks. Développé par Glimpse AI, Nomi est commercialisé comme un « compagnon d'AI avec la mémoire et une âme » qui favorise les « relations durables ». Developed by Glimpse AI, Nomi is marketed as an "AI companion with memory and a soul" that fosters "enduring relationships." Bien qu'elle soit retirée du marché européen, elle reste disponible dans d'autres régions. Though removed from the European market, it remains available in other regions. Les experts soulignent la nécessité urgente de normes de sécurité plus strictes pour protéger les utilisateurs, en particulier les jeunes, contre les dommages potentiels. Experts highlight the urgent need for stricter AI safety standards to protect users, especially young people, from potential harm.