Google a tiré des résumés de santé de l'IA de la recherche en raison de conseils inexacts, potentiellement dangereux. Google pulled AI health summaries from search due to inaccurate, potentially dangerous advice.

Google a retiré les résumés de santé générés par l'IA de ses résultats de recherche après avoir découvert qu'ils contenaient des informations inexactes ou trompeuses qui pourraient mettre en danger les utilisateurs. Google has removed AI-generated health summaries from its search results after discovering they contained inaccurate or misleading information that could endanger users. Les Aperçus de l'IA, qui ont condensé des données médicales comme les plages de tests de la fonction hépatique, n'ont pas tenu compte de facteurs clés tels que l'âge, le sexe et l'ethnicité, ce qui pourrait donner aux patients une fausse assurance. The AI Overviews, which condensed medical data like liver function test ranges, failed to account for key factors such as age, sex, and ethnicity, potentially giving patients false reassurance. Bien que Google ait déclaré que la plupart des contenus étaient soutenus par des sources fiables et n'étaient affichés que lorsqu'ils étaient sûrs de leur exactitude, les experts avertissent que la simplification excessive de données de santé complexes risque de retarder les soins nécessaires. Though Google stated most content was backed by reputable sources and only displayed when confident in accuracy, experts warn that oversimplifying complex health data risks delaying necessary care. La société continue d'examiner les demandes de renseignements touchées, mais certaines variations continuent de déclencher des résumés d'IA potentiellement dangereux, ce qui soulève des préoccupations au sujet de la fiabilité de l'IA dans les soins de santé. The company continues reviewing affected queries, but some variations still trigger potentially unsafe AI summaries, raising concerns about AI reliability in healthcare.