Reddit est l'IA a induit les utilisateurs en erreur sur le soulagement de la douleur, suggérant des options dangereuses des postes non vétustes, étincelles appels à une meilleure surveillance. Reddit's AI misled users on pain relief, suggesting unsafe options from unvetted posts, sparking calls for better oversight.

L'outil d'IA de Reddit, Reddit Answers, a été critiqué pour avoir suggéré l'héroïne et le kratom comme options de soulagement de la douleur, en s'appuyant sur des messages d'utilisateurs non vérifiés sur des forums de santé. Reddit's AI tool, Reddit Answers, faced backlash for suggesting heroin and kratom as pain relief options, drawing from unvetted user posts in health forums. L'IA a généré des réponses qui contredisaient les directives médicales, les modérateurs ne pouvant pas désactiver la fonctionnalité dans les subreddits sensibles. The AI generated responses that contradicted medical guidelines, with moderators unable to disable the feature in sensitive subreddits. L'incident a soulevé des inquiétudes au sujet des données de formation non filtrées sur l'IA et du manque de surveillance, ce qui a incité à demander de meilleures mesures de protection, comme les options de retrait et l'examen par les humains. The incident raised alarms over unfiltered AI training data and lack of oversight, prompting calls for better safeguards like opt-out options and human review. Reddit a réduit la visibilité de l'outil dans les communautés sanitaires, mais il est sous pression pour mettre en œuvre des mesures de sécurité plus fortes. Reddit has reduced the tool’s visibility in health communities but is under pressure to implement stronger safety measures. L'épisode met en évidence les risques de désinformation sur l'IA dans des domaines à fort débit comme les soins de santé. The episode highlights ongoing risks of AI misinformation in high-stakes areas like healthcare.