El sistema de detección de fraudes de IA del Reino Unido sesga contra ciertos grupos, lo que provocó llamadas para detener su uso. UK's AI fraud detection system biases against certain groups, prompting calls to halt its use.

El Departamento de Trabajo y Pensiones del Reino Unido (DWP) ha descubierto que su sistema de IA para detectar el fraude de beneficios muestra sesgo basado en factores como la edad, la discapacidad y la nacionalidad. The UK's Department for Work and Pensions (DWP) has discovered that its AI system for detecting benefits fraud shows bias based on factors like age, disability, and nationality. Una evaluación interna reveló que el sistema marcaba incorrectamente a ciertos grupos con más frecuencia para la investigación del fraude. An internal assessment found that the system incorrectly flagged certain groups more often for fraud investigation. Los críticos piden que el Programa de Trabajo de Doha detenga el despliegue ulterior de esos instrumentos hasta que se comprendan plenamente los riesgos. Critics are calling for the DWP to halt further deployment of such tools until risks are fully understood.