L'outil de transcription de l'IA d'OpenAI, Whisper, « hallucine » souvent dans les milieux médicaux, entraînant des risques potentiels. OpenAI's AI-transcription tool, Whisper, frequently "hallucinates" in medical settings, leading to potential risks.

Les chercheurs ont découvert que l'outil de transcription de l'IA d'OpenAI, Whisper, « hallucine » souvent en générant de fausses phrases, soulevant des préoccupations dans des industries à haut risque comme les soins de santé. Researchers have found that OpenAI's AI-powered transcription tool, Whisper, frequently "hallucinates" by generating false sentences, raising concerns in high-risk industries like healthcare. Malgré les mises en garde d'OpenAI contre son utilisation dans les zones sensibles, de nombreux établissements médicaux l'ont adopté pour transcrire les consultations des patients. Despite OpenAI's warnings against its use in sensitive areas, many medical facilities have adopted it for transcribing patient consultations. Les experts demandent que les règlements fédéraux traitent de ces questions, tandis que OpenAI reconnaît le problème et travaille à des améliorations. Experts are calling for federal regulations to address these issues, while OpenAI acknowledges the problem and is working on improvements.

October 26, 2024

130 Articles