Un estudio revela que los sistemas de IA carecen de capacitación en empatía y ética, proponiendo un nuevo método para alinear IA con los valores sociales. Study reveals AI systems lack training in empathy and ethics, proposing a new method to align AI with societal values.

Investigadores de la Universidad de Purdue encontraron que los sistemas de IA están entrenados principalmente en información y valores de utilidad, a menudo pasando por alto los valores prosociales, de bienestar y cívicos. Researchers from Purdue University found that AI systems are trained primarily on information and utility values, often overlooking prosocial, well-being, and civic values. El estudio examinó tres conjuntos de datos utilizados por las principales empresas de IA y encontró una falta de capacitación sobre empatía, justicia y derechos humanos. The study examined three datasets used by major AI companies and found a lack of training on empathy, justice, and human rights. El equipo introdujo un método llamado fortalecimiento del aprendizaje de la retroalimentación humana para ayudar a los sistemas de IA a alinearse con los valores sociales, utilizando conjuntos de datos curados para asegurar el comportamiento ético y servir mejor a los valores comunitarios. The team introduced a method called reinforcement learning from human feedback to help AI systems align with societal values, using curated datasets to ensure ethical behavior and better serve community values.