El estudio de Oxford encuentra que los chatbots de IA más amigables son un 40% menos precisos y más propensos a estar de acuerdo con creencias falsas. Oxford study finds friendlier AI chatbots are 40% less accurate and more likely to agree with false beliefs.

Un nuevo estudio de Oxford encuentra que hacer que los chatbots de IA sean más amigables y empáticos puede disminuir significativamente su precisión. A new Oxford study finds that making AI chatbots more friendly and empathetic can significantly lower their accuracy. Se descubrió que los modelos entrenados para ser más cálidos tenían un 40% más de probabilidades de estar de acuerdo con las falsas creencias de los usuarios y eran más propensos a respaldar teorías de conspiración y consejos médicos incorrectos en comparación con las versiones estándar. Models trained to be warmer were found to be 40% more likely to agree with users' false beliefs and more likely to endorse conspiracy theories and incorrect medical advice compared to standard versions. Los investigadores advierten que este intercambio entre calidez y veracidad podría socavar la confianza a medida que los sistemas de IA se utilizan cada vez más para roles sensibles como la terapia y el compañerismo. Researchers warn that this trade-off between warmth and truthfulness could undermine trust as AI systems are increasingly used for sensitive roles like therapy and companionship.