L'AI de Google a accusé faussement un designer australien d'un meurtre de 1971, fabriquant des preuves et causant des dommages. Google's AI falsely accused an Australian designer of a 1971 murder, fabricating evidence and causing harm.

Google , AI Mode a faussement identifié un graphiste australien innocent comme le meurtrier du petit garçon disparu Cheryl Grimmer, affirmant qu'il était connu comme "Mercury" et avait avoué en 1971. Google’s AI Mode falsely identified an innocent Australian graphic designer as the murderer of missing toddler Cheryl Grimmer, claiming he was known as "Mercury" and had confessed in 1971. L'erreur est due à la mauvaise interprétation du rôle du concepteur dans la rédaction d'un document de cas des années 1970 et la création d'une illustration, la fabrication de détails incluant de fausses sources et une revendication de dénomination parlementaire. The error stemmed from the AI misinterpreting the designer’s role in redacting a 1970s case document and creating an illustration, fabricating details including false sources and a claim of parliamentary naming. L'IA a généré un récit détaillé mais entièrement fictif, provoquant la détresse et soulevant des préoccupations juridiques. The AI generated a detailed but entirely fictional narrative, causing distress and raising legal concerns. Les experts disent que les systèmes d'IA hallucinent souvent en reliant des noms sans contexte. Experts say AI systems often hallucinate by linking names without context. Google a reconnu l'erreur, a supprimé le contenu, et a dit qu'il , utilisant l'incident pour améliorer ses systèmes, mais n'a offert aucune mesure de responsabilité. Google acknowledged the mistake, removed the content, and said it’s using the incident to improve its systems, but offered no accountability measures. Des erreurs similaires de l'IA ont accusé à tort les journalistes et les données faussement représentées, mettant en évidence les risques croissants de se fier à des résumés automatisés pour obtenir des informations sensibles. Similar AI errors have falsely accused journalists and misrepresented data, highlighting growing risks in relying on automated summaries for sensitive information.