Anthropic introduit Prompt Caching pour chatbot Claude, réduisant les coûts et les temps de réponse.
Anthropic introduit une nouvelle fonctionnalité, Prompt Caching, pour son chatbot AI Claude, réduisant les coûts jusqu'à 90% et les temps de réponse de deux fois. Cette fonctionnalité permet aux développeurs de stocker des instructions détaillées, des exemples de réponses et des informations pertinentes, au bénéfice de projets complexes et d'entreprises de toutes tailles. Actuellement en phase bêta publique grâce à l'API d'Anthropic, Prompt Caching améliore les performances dans les utilisations telles que les conversations prolongées, le traitement de documents importants et les assistants de codage.
August 14, 2024
4 Articles