Le système britannique de détection de la fraude par l'IA tend à biaiser certains groupes, ce qui incite à mettre fin à son utilisation. UK's AI fraud detection system biases against certain groups, prompting calls to halt its use.

Le ministère britannique du travail et des pensions (DWP) a découvert que son système d'IA pour détecter la fraude aux prestations présentait des préjugés fondés sur des facteurs tels que l'âge, le handicap et la nationalité. The UK's Department for Work and Pensions (DWP) has discovered that its AI system for detecting benefits fraud shows bias based on factors like age, disability, and nationality. Une évaluation interne a révélé que le système avait mal signalé certains groupes plus souvent pour enquête sur la fraude. An internal assessment found that the system incorrectly flagged certain groups more often for fraud investigation. Les critiques demandent au DWP d'arrêter le déploiement de ces outils jusqu'à ce que les risques soient pleinement compris. Critics are calling for the DWP to halt further deployment of such tools until risks are fully understood.