La nouvelle application Sora 2 d'OpenAI génère des vidéos d'IA à partir de texte, suscitant des inquiétudes sur la désinformation, le droit d'auteur et les failles profondes malgré les garanties. OpenAI's new Sora 2 app generates AI videos from text, sparking concerns over misinformation, copyright, and deepfakes despite safeguards.

OpenAI a lancé Sora 2, une application de médias sociaux qui génère des vidéos d'IA de 10 secondes à partir d'invites texte, ressemblant au contenu TikTok. OpenAI has launched Sora 2, a social media app that generates 10-second AI videos from text prompts, resembling TikTok content. Il permet la création de vidéos avec des ressemblances de personnes réelles (avec autorisation), comprend des contrôles de confidentialité et des filigranes d'IA, et interdit les contenus nuisibles. It allows creation of videos with real people’s likenesses (with permission), includes privacy controls and AI watermarks, and bans harmful content. Cependant, les tests ont révélé qu'il pouvait encore produire des vidéos trompeuses, y compris de fausses allégations historiques et des représentations de violence, et générer du contenu avec des caractères de marque, soulevant des préoccupations en matière de droit d'auteur et de renseignements erronés. However, testing found it could still produce misleading videos, including fake historical claims and depictions of violence, and generate content with trademarked characters, raising copyright and misinformation concerns. Malgré les garanties, les paramètres par défaut de l'application permettent une utilisation du matériel protégé par le droit d'auteur sans autorisation, alimentant les critiques sur les risques éthiques et juridiques. Despite safeguards, the app’s default settings permit copyrighted material use without permission, fueling criticism over ethical and legal risks. Le scepticisme du public envers l'IA s'accroît, avec des enquêtes montrant des craintes croissantes au sujet des dommages causés par l'IA, et des réactions négatives à des contenus impersonnels et de mauvaise qualité et à des failles profondes. Public skepticism toward AI is growing, with surveys showing rising fears about harm from AI, and backlash over low-quality, impersonal content and deepfakes.