Caché de prompts

La caché de prompts reutiliza el prefijo ya procesado de un prompt largo, como un prompt de sistema, documentos o definiciones de herramientas, entre peticiones. Las lecturas de caché cuestan mucho menos que los tokens de entrada normales. api14 transmite tal cual los precios de caché del proveedor: input_cache_read e input_cache_write aparecen para cada modelo en Modelos.

Caché automática

Estos proveedores usan la caché por su cuenta. No necesitas cambiar nada:

Coloca las partes que no cambian al principio del prompt y las que cambian al final, para que el prefijo coincida entre peticiones.

Caché explícita con cache_control

Anthropic Claude (y la caché explícita de Gemini) necesitan puntos de corte. Añade cache_control a una parte de contenido de texto:

{
  "model": "anthropic/claude-sonnet-4.5",
  "messages": [
    {
      "role": "system",
      "content": [
        { "type": "text", "text": "You are a contracts assistant." },
        {
          "type": "text",
          "text": "<the full 40-page agreement text>",
          "cache_control": { "type": "ephemeral" }
        }
      ]
    },
    { "role": "user", "content": "Which clause covers termination?" }
  ]
}

• Anthropic permite hasta 4 puntos de corte. La caché dura unos 5 minutos y se renueva en cada acierto. Usa "ttl": "1h" para una caché más larga, que cuesta más al escribirse.
• Las escrituras de caché en Anthropic cuestan aproximadamente 1,25× la entrada, y las lecturas aproximadamente 0,1×.
• Para seguir acertando en la caché del mismo proveedor, añade provider: { "order": ["Anthropic"], "allow_fallbacks": false } si lo necesitas.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api14.com/api/v1",
  apiKey: process.env.API14_API_KEY,
});

const result = await client.chat.completions.create({
  "model": "anthropic/claude-sonnet-4.5",
  "messages": [
    {
      "role": "user",
      "content": "Explain vector databases in two sentences."
    }
  ]
});
console.log(result.choices[0].message.content);

Leer el uso de la caché

El objeto usage muestra los tokens en caché, y cost ya incluye el descuento:

{
  "usage": {
    "prompt_tokens": 10450,
    "completion_tokens": 120,
    "total_tokens": 10570,
    "prompt_tokens_details": { "cached_tokens": 10200 },
    "cost": 0.004863
  }
}

cached_tokens también aparece en tus registros de uso en el panel. Consulta de generaciones muestra el desglose completo, incluido cache_discount.

Errores

La caché nunca causa errores por sí misma. Un cache_control mal formado es ignorado o rechazado por el proveedor con un 400. Consulta Errores.