Anthropic presenta Prompt Caching para el chatbot Claude, reduciendo costos y tiempos de respuesta.

Anthropic introduce una nueva característica, Prompt Caching, para su chatbot de IA Claude, reduciendo los costos en hasta un 90% y los tiempos de respuesta en dos veces. La función permite a los desarrolladores almacenar instrucciones detalladas, respuestas de ejemplo e información relevante, beneficiando proyectos complejos y empresas de todos los tamaños. Actualmente en fase beta pública a través de la API de Anthropic, Prompt Caching mejora el rendimiento en usos como conversaciones extendidas, procesamiento de documentos de gran tamaño y asistentes de codificación.

August 14, 2024
4 Artículos

Lecturas adicionales