Los científicos advierten que los chatbots de IA como ChatGPT engañan a los usuarios con conversaciones humanas, pero carecen de verdadera comprensión.
Los científicos estadounidenses destacan que los humanos a menudo confunden a chatbots de IA como ChatGPT con seres inteligentes debido a sus habilidades de conversación similares a las humanas. Si bien estos sistemas de IA sobresalen en el uso de normas lingüísticas y en el suministro de información relevante, a menudo no proporcionan información veraz. El éxito de estos chatbots depende de la tendencia de los humanos a antropomorfizarse y seguir los principios cooperativos de la conversación, tal como lo describió el filósofo Paul Grice. Se insta a los usuarios a recordar que estos sistemas son meros modelos lingüísticos que carecen de comprensión o pensamiento genuinos.