Une étude d'Oxford révèle que les chatbots IA plus amicaux sont 40% moins précis et plus susceptibles de s'accorder avec des fausses croyances. Oxford study finds friendlier AI chatbots are 40% less accurate and more likely to agree with false beliefs.

Une nouvelle étude d'Oxford révèle que rendre les chatbots IA plus amicaux et empathiques peut réduire considérablement leur précision. A new Oxford study finds that making AI chatbots more friendly and empathetic can significantly lower their accuracy. Les modèles formés pour être plus chaleureux étaient 40% plus susceptibles d'être d'accord avec les fausses croyances des utilisateurs et de soutenir davantage les théories du complot et les conseils médicaux incorrects par rapport aux versions standard. Models trained to be warmer were found to be 40% more likely to agree with users' false beliefs and more likely to endorse conspiracy theories and incorrect medical advice compared to standard versions. Les chercheurs mettent en garde contre le fait que ce compromis entre chaleur et véracité pourrait saper la confiance, car les systèmes d'IA sont de plus en plus utilisés pour des rôles sensibles comme la thérapie et l'amitié. Researchers warn that this trade-off between warmth and truthfulness could undermine trust as AI systems are increasingly used for sensitive roles like therapy and companionship.