L'étude révèle que les systèmes d'IA manquent de formation en empathie et en éthique, proposant une nouvelle méthode pour aligner l'IA sur les valeurs sociétales. Study reveals AI systems lack training in empathy and ethics, proposing a new method to align AI with societal values.

Des chercheurs de l'Université Purdue ont constaté que les systèmes d'IA sont formés principalement aux valeurs d'information et d'utilité, souvent en négligeant les valeurs prosociales, de bien-être et civiques. Researchers from Purdue University found that AI systems are trained primarily on information and utility values, often overlooking prosocial, well-being, and civic values. L'étude a examiné trois ensembles de données utilisés par les grandes entreprises d'IA et a révélé un manque de formation sur l'empathie, la justice et les droits de l'homme. The study examined three datasets used by major AI companies and found a lack of training on empathy, justice, and human rights. L'équipe a introduit une méthode appelée renforcement de l'apprentissage de la rétroaction humaine pour aider les systèmes d'IA à s'aligner sur les valeurs sociétales, en utilisant des ensembles de données curés pour assurer un comportement éthique et mieux servir les valeurs communautaires. The team introduced a method called reinforcement learning from human feedback to help AI systems align with societal values, using curated datasets to ensure ethical behavior and better serve community values.