La IA de Google acusó falsamente a un diseñador australiano de un asesinato de 1971, falsificando pruebas y causando daño. Google's AI falsely accused an Australian designer of a 1971 murder, fabricating evidence and causing harm.

El modo AI de Google identificó falsamente a un diseñador gráfico australiano inocente como el asesino de la niña desaparecida Cheryl Grimmer, alegando que era conocido como "Mercury" y que había confesado en 1971. Google’s AI Mode falsely identified an innocent Australian graphic designer as the murderer of missing toddler Cheryl Grimmer, claiming he was known as "Mercury" and had confessed in 1971. El error se debió a que la IA malinterpretó el papel del diseñador al redactar un documento de un caso de la década de 1970 y crear una ilustración, fabricando detalles que incluían fuentes falsas y un reclamo de nombramiento parlamentario. The error stemmed from the AI misinterpreting the designer’s role in redacting a 1970s case document and creating an illustration, fabricating details including false sources and a claim of parliamentary naming. La IA generó una narrativa detallada pero totalmente ficticia, causando angustia y planteando preocupaciones legales. The AI generated a detailed but entirely fictional narrative, causing distress and raising legal concerns. Los expertos dicen que los sistemas de IA a menudo alucinan vinculando nombres sin contexto. Experts say AI systems often hallucinate by linking names without context. Google reconoció el error, eliminó el contenido y dijo que está usando el incidente para mejorar sus sistemas, pero no ofreció medidas de responsabilidad. Google acknowledged the mistake, removed the content, and said it’s using the incident to improve its systems, but offered no accountability measures. Errores similares de IA han acusado falsamente a periodistas y tergiversado datos, destacando los crecientes riesgos de confiar en resúmenes automatizados para información sensible. Similar AI errors have falsely accused journalists and misrepresented data, highlighting growing risks in relying on automated summaries for sensitive information.