La fiabilité des modèles de langage AI diminue pour des questions simples, malgré de meilleures performances sur des tâches complexes, comme le révèle une étude dans la Nature. AI language models' reliability decreases for simple questions, despite better performance on complex tasks, as revealed by a study in Nature.

Une étude dans la nature révèle que les modèles avancés de langage de l'IA, comme ChatGPT, deviennent moins fiables pour répondre à des questions simples, malgré de meilleures performances sur des tâches complexes. A study in Nature reveals that advanced AI language models, such as ChatGPT, are becoming less reliable in answering simple questions, despite performing better on complex tasks. Des chercheurs de plusieurs établissements ont constaté que ces modèles ne reconnaissaient souvent pas quand ils ne connaissaient pas les réponses, ce qui conduisait à un manque de confiance. Researchers from several institutions found that these models often fail to acknowledge when they don't know answers, leading to misplaced confidence. L'étude appelle à remanier les systèmes d'IA pour y inclure les options de rejet et la surveillance humaine afin d'améliorer la précision et d'aider les utilisateurs à comprendre leurs limites. The study calls for redesigning AI systems to include rejection options and human oversight to enhance accuracy and help users understand their limitations.