Les scientifiques mettent en garde les chatbots d'IA comme ChatGPT qui trompent les utilisateurs avec des conversations semblables à celles des humains mais qui n'ont pas une vraie compréhension.
Les scientifiques américains soulignent que les humains se trompent souvent chatbots AI comme ChatGPT pour des êtres intelligents en raison de leurs capacités de conversation humaine. Bien que ces systèmes d'IA excellent dans l'utilisation des règles linguistiques et la fourniture d'informations pertinentes, ils échouent souvent à fournir des informations véridiques. Le succès de ces chatbots dépend de la tendance des humains à anthropomorphiser et à suivre les principes de la coopération de la conversation, comme le philosophe Paul Grice l'a souligné. Les utilisateurs sont invités à se rappeler que ces systèmes ne sont que des modèles linguistiques qui manquent de compréhension ou de pensée authentique.