Les images d'abus sexuels sur enfants générées par l'IA, y compris les deepfakes, ont augmenté à l'échelle mondiale, affectant 1,2 million d'enfants, incitant l'UNICEF à exhorter à des lois plus strictes et à des garanties technologiques. AI-generated child sexual abuse images, including deepfakes, have surged globally, affecting 1.2 million children, prompting UNICEF to urge stronger laws and tech safeguards.

Une augmentation des images sexualisées d'enfants générées par l'IA, y compris les infarctus créés par la « nudification », a alarmé l'UNICEF, qui signale au moins 1,2 million d'enfants touchés dans le monde au cours de l'année écoulée. A surge in AI-generated sexualized images of children, including deepfakes created via "nudification," has alarmed UNICEF, which reports at least 1.2 million children affected globally in the past year. L'organisation met en garde contre ce contenu, même synthétique, qui constitue un matériel de violence sexuelle envers les enfants et cause de réels préjudices psychologiques, en exhortant les gouvernements à élargir les lois pour criminaliser le CSAM produit par l'IA et en invitant les développeurs de technologies à mettre en œuvre des mesures de sécurité par conception. The organization warns such content, even if synthetic, constitutes child sexual abuse material and causes real psychological harm, urging governments to expand laws to criminalize AI-generated CSAM and calling on tech developers to implement safety-by-design measures. Malgré les interdictions temporaires sur les plateformes comme X après que son chatbot AI Grok a permis de tels contenus, les utilisateurs contournaient les restrictions, soulignant la nécessité de réglementations ciblées. Despite temporary bans on platforms like X after its AI chatbot Grok enabled such content, users bypassed restrictions, highlighting the need for targeted regulations. La nouvelle loi sur la sécurité en ligne (relief et responsabilité) de Singapour habilite une commission à prendre des mesures de retrait et à soutenir les poursuites civiles, tandis que les experts soulignent que la réduction de la tolérance sociale est essentielle pour protéger les victimes. Singapore’s new Online Safety (Relief and Accountability) Act empowers a commission to issue takedowns and support civil suits, while experts stress that reducing societal tolerance is key to protecting victims.