L’IA a identifié à tort des puces comme étant celles d’une arme à feu, déclenchant une intervention policière ; adolescent indemne, système en pause. AI misidentified chips as gun, triggering police response; teen unharmed, system paused.

La police de Baltimore a publié des images d'un adolescent arrêté après qu'un système d'IA ait identifié à tort un sac de chips de pommes de terre comme une arme à feu. Baltimore police released body camera footage of a teenage individual detained after an AI system incorrectly identified a bag of potato chips as a firearm. La mauvaise identification a déclenché une escalade, les officiers tirant des armes avant de réaliser l'erreur. The misidentification triggered an escalation, with officers drawing weapons before realizing the error. L'outil d'IA était encore à l'essai et n'était pas entièrement approuvé pour utilisation. The AI tool was still in testing and not fully approved for use. Bien que l'adolescente n'ait pas été blessée et libérée, l'incident a accru les préoccupations au sujet de la fiabilité, des préjugés et de la surveillance de l'IA dans les services de police. Though the teen was unharmed and released, the incident has intensified concerns about AI reliability, bias, and oversight in policing. Le Ministère a interrompu le déploiement du système et a lancé un examen. The department has paused the system’s deployment and launched a review.