L'IA est utilisée pour créer de fausses images explicites à partir de photos de famille, conduisant à des abus et demandant des mesures de sécurité. AI is being used to create fake explicit images from family photos, leading to abuse and urging safety measures.

En 2025, une menace croissante implique des prédateurs utilisant l'intelligence artificielle pour manipuler des photos familiales – comme les vidéos d'anniversaire ou de performance – dans des contenus explicites non consensuels, une forme d'exploitation numérique qui se propage rapidement en ligne. In 2025, a growing threat involves predators using artificial intelligence to manipulate family photos—such as children’s birthday or performance videos—into non-consensual explicit content, a form of digital exploitation that spreads rapidly online. Ces images générées par l'IA, souvent créées en quelques secondes, servent à faire du chantage, du harcèlement ou de la distribution, causant de graves dommages émotionnels. These AI-generated images, often created in seconds, are used for blackmail, harassment, or distribution, causing severe emotional harm. Les organismes chargés de l'application de la loi et de la protection de l'enfance, y compris le Centre national pour les enfants disparus et exploités, exhortent les familles à limiter le partage d'images personnelles en ligne et à signaler les activités suspectes, tout en appelant à des garanties plus strictes, à une sensibilisation du public et à des lois mises à jour pour lutter contre l'utilisation abusive de l'IA dans la création de matériel d'abus sexuel sur les enfants. Law enforcement and child protection agencies, including the National Center for Missing and Exploited Children, are urging families to limit sharing personal images online and report suspicious activity, while calling for stronger safeguards, public awareness, and updated laws to combat the misuse of AI in creating child sexual abuse material.