Les écoles utilisent l'IA pour surveiller les activités en ligne des élèves, ce qui entraîne de fausses alarmes et arrestations. Schools use AI to monitor students' online activities, leading to false alarms and arrests.

Les écoles des États-Unis utilisent des logiciels de surveillance de l'IA comme Gaggle et Lightspeed Alert pour surveiller les activités en ligne des étudiants, visant à prévenir les automutilations ou les menaces. Schools across the US are using AI surveillance software like Gaggle and Lightspeed Alert to monitor students' online activities, aiming to prevent self-harm or threats. Cependant, cette technologie a conduit à de fausses alarmes et arrestations, comme une fille de 13 ans du Tennessee qui a été arrêtée pour avoir fait une blague offensante en ligne. However, this technology has led to false alarms and arrests, such as a 13-year-old Tennessee girl who was arrested for making an offensive joke online. Les critiques affirment que les systèmes peuvent criminaliser les enfants pour des mots insouciants, soulevant des préoccupations au sujet de la vie privée et du rôle de la police dans les écoles. Critics argue the systems can criminalize children for careless words, raising concerns about privacy and the role of law enforcement in schools.