Les failles de l'IA « injection rapide » laissent des rivaux comme la Chine et la Russie pirater des systèmes par le biais de textes trompeurs, risquant des fuites de données et de désinformation. AI "prompt injection" flaws let rivals like China and Russia hack systems via deceptive text, risking data leaks and disinformation.

Les experts militaires avertissent qu'une vulnérabilité généralisée à l'IA appelée « injection rapide » permet aux adversaires comme la Chine et la Russie d'exploiter les chatbots et les agents d'IA en cachant des commandes malveillantes dans un texte apparemment normal, conduisant au vol de données, à la désinformation ou à la manipulation du système. Military experts warn that a widespread AI vulnerability called "prompt injection" allows adversaries like China and Russia to exploit chatbots and AI agents by hiding malicious commands in seemingly normal text, leading to data theft, disinformation, or system manipulation. Ces attaques trompent l'IA pour qu'elle exécute des actions nuisibles, comme la fuite de fichiers ou la diffusion de fausses informations, car les modèles ne peuvent pas distinguer les entrées légitimes et les entrées malveillantes. These attacks trick AI into executing harmful actions, such as leaking files or spreading false information, because models cannot distinguish between legitimate and malicious inputs. Des incidents ont été trouvés dans des outils tels que Microsoft's Copilot et OpenAI's ChatGPT Atlas, les entreprises reconnaissant le risque mais admettant qu'aucune solution complète n'existe. Incidents have been found in tools like Microsoft’s Copilot and OpenAI’s ChatGPT Atlas, with companies acknowledging the risk but admitting no complete fix exists. Les experts recommandent de limiter l'accès à des données sensibles et de surveiller les comportements anormaux pour réduire les dommages, car les agents d'IA, désormais capables de tâches autonomes, induisent de nouvelles menaces de cybersécurité qui dépassent les garanties actuelles. Experts recommend limiting AI access to sensitive data and monitoring for abnormal behavior to reduce damage, as AI agents—now capable of autonomous tasks—introduce new cybersecurity threats that outpace current safeguards.