Anthropic Amplía Prompt Caching con Retención de 1 Hora en API

Anthropic amplió las capacidades de optimización de costos y latencia de su plataforma de desarrolladores al incorporar una ventana de retención extendida de 1 hora para Prompt Caching en la Claude API, así como compatibilidad directa con su Message Batches API. Hasta ahora, la caché en memoria de prefijos de contexto mantenía una vigencia predeterminada de 5 minutos, lo que limitaba su aprovechamiento en flujos de trabajo asíncronos o aplicaciones donde los usuarios interactúan con pausas moderadas entre preguntas.

Qué cambia para ti

Freelancers: Tus aplicaciones de soporte al cliente o asistentes de código ahora retienen el contexto del proyecto y la documentación base durante una hora completa, reduciendo drásticamente la factura mensual de consumo de tokens.

PyMEs: El procesamiento masivo de facturas, contratos legales o expedientes médicos mediante Message Batches ahora puede combinar el 50% de descuento del modo batch con el 90% de descuento de Prompt Caching en prefijos compartidos.

Agencias: Permite construir sistemas RAG empresariales donde los manuales corporativos de miles de páginas quedan precargados en memoria durante toda la jornada laboral, mejorando la latencia de respuesta para los empleados.

Detalles técnicos

La retención de 1 hora se activa mediante un parámetro opcional en el bloque de configuración del mensaje. Los tokens leídos desde la caché mantienen un descuento del 90% frente a la tarifa de entrada estándar de Claude 3.5 Sonnet ($0.30 USD por millón de tokens en caché frente a los $3.00 USD habituales). Además, al enviar lotes a través de la Message Batches API, el orquestador agrupa las peticiones que comparten el mismo prefijo en un bloque unificado, maximizando la tasa de acierto (Cache Hit Rate) sin requerir reordenamiento manual por parte del desarrollador.

Qué hacer ahora

• Pruébalo estructurando tus llamadas a la API para ubicar los prompts de sistema y documentos estáticos al inicio del mensaje con el punto de control de caché (cache_control).
• Espera si tus mensajes son cortos (menos de 1,024 tokens) o si cada interacción incluye un contexto completamente variable que no comparte prefijos.
• Ignóralo si utilizas modelos locales en servidores propios donde la gestión de memoria se controla a través de vLLM o Ollama.

Aprende a gobernar agentes y herramientas complejas en nuestra guía de agentes con Tool Use en streaming y supervisión humana o revisa estrategias de reducción de costos en la guía de caché semántico con LiteLLM.

Fuentes

• Claude Platform Docs: Documentación técnica oficial sobre arquitectura de Prompt Caching
• Anthropic: Esquema de tarifas oficiales y estructura de costos por millón de tokens

Revisado por Laboratorio Editorial RutaBot. Actualizado: octubre de 2026.

Aviso Legal y Descargo de Responsabilidad

Este contenido es de carácter estrictamente informativo, técnico y educativo. El uso, implementación y despliegue de los flujos de automatización, scripts, código, modelos, APIs y herramientas de software analizados en RutaBot.com son bajo la exclusiva responsabilidad de cada usuario. RutaBot no asume responsabilidad por fallas en servidores, costos imprevistos de consumo de tokens o APIs, interrupciones operativas ni vulnerabilidades derivadas de código o servicios de terceros. Todas las marcas comerciales, nombres de software, empresas y logotipos citados pertenecen a sus respectivos titulares y su mención tiene propósitos puramente de divulgación, análisis y uso legítimo (Fair Use / Derecho de Cita). Antes de desplegar automatizaciones o integraciones en entornos de producción críticos, realice pruebas en entornos aislados y audite las políticas de seguridad de su organización.