L'IA peut réécrire un ADN dangereux pour éviter les contrôles de biosécurité, révélant ainsi des défauts majeurs dans les systèmes de protection actuels. AI can rewrite dangerous DNA to dodge biosecurity checks, revealing major flaws in current protection systems.

Une nouvelle étude dans la science montre que l'IA peut redessiner les séquences d'ADN pour les protéines dangereuses afin d'éviter les examens de biosécurité utilisés par les fabricants d'ADN, en préservant les structures nocives tout en contournant la détection. A new study in Science shows AI can redesign DNA sequences for dangerous proteins to evade biosecurity screenings used by DNA manufacturers, preserving harmful structures while bypassing detection. Les chercheurs ont trouvé des codes génétiques « paraphrasés » de l'IA pour glisser les filtres passés destinés à bloquer les menaces comme la variole ou l'anthrax, exposant les lacunes dans les mesures de protection actuelles. Researchers found AI "paraphrases" genetic codes to slip past filters meant to block threats like smallpox or anthrax, exposing gaps in current safeguards. Les auteurs de l'étude ont refusé des données et des logiciels sensibles, en utilisant un non-profit pour contrôler l'accès — une première dans l'édition scientifique pour gérer les risques. The study’s authors withheld sensitive data and software, using a nonprofit to control access—a first in scientific publishing to manage risks. Les experts reconnaissent les résultats de ces études qui mettent en évidence de graves vulnérabilités, mais soulignent que les tests dans le monde réel restent limités sur le plan éthique et juridique, laissant les risques clés non vérifiés. Experts acknowledge the findings highlight serious vulnerabilities but stress that real-world testing remains ethically and legally restricted, leaving key risks unverified. Les travaux ajoutent aux préoccupations croissantes que l'IA pourrait accélérer la création de menaces biologiques plus rapidement que les mesures de sécurité ne peuvent se maintenir. The work adds to growing concerns that AI could accelerate the creation of biological threats faster than safety measures can keep up.