Sora AI, désormais la meilleure application pour iPhone, diffuse des médias synthétiques, suscitant des craintes d'une utilisation abusive de deepfake malgré les mesures de sécurité. Sora AI, now top iPhone app, spreads synthetic media, raising fears of deepfake misuse despite safety measures.

Le générateur vidéo Sora AI d'OpenAI, qui est désormais l'application iPhone la plus téléchargée, diffuse rapidement des médias synthétiques en rendant les deepfakes de haute qualité faciles à créer et à partager, avertissent les experts. OpenAI’s Sora AI video generator, now the top downloaded iPhone app, is rapidly spreading synthetic media by making high-quality deepfakes easy to create and share, experts warn. Malgré des mesures de sécurité comme la modération du contenu et les filigranes, les utilisateurs contournent les contrôles, suscitant des inquiétudes quant à l'utilisation abusive de contenus désinformationnels, de propagande et non consensuels. Despite safety measures like content moderation and watermarks, users are bypassing controls, raising concerns about misuse for disinformation, propaganda, and non-consensual content. L'intégration de l'outil aux algorithmes des médias sociaux amplifie sa portée, brouillant la réalité et la fiction, tandis que la concurrence industrielle peut affaiblir les garanties. The tool’s integration with social media algorithms amplifies its reach, blurring reality and fiction, while industry competition may weaken safeguards. Bien que OpenAI promette un contrôle accru pour les détenteurs de droits et le partage des revenus, les experts craignent que les dommages causés à la confiance du public ne soient déjà irréversibles. Although OpenAI promises greater control for rights holders and revenue sharing, experts fear the damage to public trust may already be irreversible.