Les chercheurs testent une méthode de « vaccination » de l'IA pour prévenir les comportements nuisibles dans les systèmes d'IA. Researchers test an AI "vaccination" method to prevent harmful behaviors in AI systems.

Les chercheurs testent une méthode pour empêcher l'IA de développer des traits nocifs en exposant les modèles d'IA à de petites quantités de ces traits pendant la formation, un processus qu'ils appellent « la direction préventive ». Researchers are testing a method to prevent AI from developing harmful traits by exposing AI models to small amounts of these traits during training, a process they call "preventative steering." Cette approche de « vaccination » utilise des « vecteurs persona » pour introduire et ensuite supprimer des traits indésirables, visant à rendre l'IA plus résistante aux comportements nuisibles. This "vaccination" approach uses "persona vectors" to introduce and later remove undesirable traits, aiming to make AI more resilient to harmful behaviors. L'objectif est de traiter les comportements problématiques vus dans les systèmes d'IA comme le chatbot Bing de Microsoft et le GPT-4 d'OpenAI. The goal is to address problematic behaviors seen in AI systems like Microsoft's Bing chatbot and OpenAI's GPT-4.