OpenAI a exposé une campagne menée par l'État chinois pour harceler les dissidents à l'étranger, y compris de faux avis de décès et de désinformation coordonnée, ce qui a conduit à des interdictions d'usager et à des préoccupations mondiales à l'égard de l'utilisation abusive de l'IA. OpenAI exposed a Chinese state-linked AI-driven campaign to harass dissidents abroad, including fake obituaries and coordinated disinformation, leading to user bans and global concern over AI misuse.

OpenAI a découvert une opération mondiale liée à l'État chinois utilisant des outils d'IA comme ChatGPT pour planifier et documenter les efforts visant à intimider les dissidents à l'étranger, y compris la fabrication de faux avis de décès, la diffusion de la désinformation et la coordination de faux comptes de médias sociaux. OpenAI has uncovered a global Chinese state-linked operation using AI tools like ChatGPT to plan and document efforts to intimidate dissidents abroad, including fabricating fake obituaries, spreading disinformation, and coordinating fake social media accounts. L'enquête a porté sur un fonctionnaire chinois chargé de faire respecter la loi qui a utilisé l'IA comme journal numérique pour suivre les campagnes ciblant les critiques, y compris le Premier ministre japonais Sanae Takaichi, bien que ChatGPT ait refusé certaines demandes. The investigation centered on a Chinese law enforcement official who used the AI as a digital journal to track campaigns targeting critics, including Japan’s Prime Minister Sanae Takaichi, though ChatGPT refused some requests. OpenAI a vérifié les impacts réels, tels que les fausses déclarations de décès et les attaques en ligne coordonnées, et interdit l'utilisateur. OpenAI verified real-world impacts, such as false death reports and coordinated online attacks, and banned the user. Les résultats révèlent un effort systématique à grande échelle impliquant des centaines d'agents et des tactiques numériques avancées, mettant en évidence les préoccupations croissantes concernant l'utilisation abusive de l'IA dans les campagnes de répression transnationale et d'influence géopolitique. The findings reveal a large-scale, systematic effort involving hundreds of operatives and advanced digital tactics, highlighting growing concerns over AI misuse in transnational repression and geopolitical influence campaigns.