La IA identificó erróneamente los chips como armas, lo que desencadenó la respuesta de la policía; el adolescente no resultó herido, el sistema se detuvo. AI misidentified chips as gun, triggering police response; teen unharmed, system paused.

La policía de Baltimore publicó imágenes de una cámara corporal de un adolescente detenido después de que un sistema de IA identificara incorrectamente una bolsa de papas fritas como un arma de fuego. Baltimore police released body camera footage of a teenage individual detained after an AI system incorrectly identified a bag of potato chips as a firearm. La identificación errónea provocó una escalada, con los oficiales sacando armas antes de darse cuenta del error. The misidentification triggered an escalation, with officers drawing weapons before realizing the error. La herramienta de IA todavía estaba en pruebas y no estaba completamente aprobada para su uso. The AI tool was still in testing and not fully approved for use. Aunque el adolescente no resultó herido y fue liberado, el incidente ha intensificado las preocupaciones sobre la fiabilidad de la IA, el sesgo y la supervisión en la policía. Though the teen was unharmed and released, the incident has intensified concerns about AI reliability, bias, and oversight in policing. El departamento ha puesto en pausa el despliegue del sistema y ha iniciado una revisión. The department has paused the system’s deployment and launched a review.