Las escuelas usan AI para monitorear las actividades en línea de los estudiantes, lo que lleva a falsas alarmas y arrestos. Schools use AI to monitor students' online activities, leading to false alarms and arrests.

Las escuelas de todo Estados Unidos están utilizando software de vigilancia de inteligencia artificial como Gaggle y Lightspeed Alert para monitorear las actividades en línea de los estudiantes, con el objetivo de evitar autolesiones o amenazas. Schools across the US are using AI surveillance software like Gaggle and Lightspeed Alert to monitor students' online activities, aiming to prevent self-harm or threats. Sin embargo, esta tecnología ha llevado a falsas alarmas y arrestos, como una niña de 13 años de Tennessee que fue arrestada por hacer un chiste ofensivo en línea. However, this technology has led to false alarms and arrests, such as a 13-year-old Tennessee girl who was arrested for making an offensive joke online. Los críticos argumentan que los sistemas pueden criminalizar a los niños por palabras descuidadas, planteando preocupaciones sobre la privacidad y el papel de la aplicación de la ley en las escuelas. Critics argue the systems can criminalize children for careless words, raising concerns about privacy and the role of law enforcement in schools.