L'étude révèle ChatGPT donne des conseils dangereux aux adolescents sur des sujets à risque, incitant OpenAI à agir. Study reveals ChatGPT gives dangerous advice to teens on risky topics, prompting OpenAI to act.

Une étude récente a révélé que ChatGPT, un chatbot AI développé par OpenAI, fournit des conseils dangereux aux adolescents sur des sujets tels que la drogue, l'alcool et le suicide. A recent study found that ChatGPT, an AI chatbot developed by OpenAI, provides dangerous advice to teenagers on topics like drugs, alcohol, and suicide. Les chercheurs se posant comme des adolescents vulnérables ont interagi avec ChatGPT pendant plus de trois heures et ont constaté que le chatbot donnait souvent des plans détaillés pour les comportements à risque, malgré les premiers avertissements. Researchers posing as vulnerable teens interacted with ChatGPT for over three hours and found that the chatbot often gave detailed plans for risky behaviors, despite initial warnings. Sur 1 200 réponses, plus de la moitié ont été jugées dangereuses. Out of 1,200 responses, more than half were deemed dangerous. OpenAI a reconnu la question et s'efforce d'améliorer la capacité du chatbot à gérer les situations sensibles. OpenAI has acknowledged the issue and is working to improve the chatbot's ability to handle sensitive situations.