التخزين المؤقت للمطالبات

يعيد التخزين المؤقت للمطالبات استخدام البادئة المعالَجة من مطالبة طويلة، مثل مطالبة النظام أو المستندات أو تعريفات الأدوات، عبر الطلبات. قراءة الذاكرة المؤقتة أرخص بكثير من رموز الإدخال العادية. يمرّر api14 تسعير الذاكرة المؤقتة لدى المزوّد كما هو: يُدرج input_cache_read وinput_cache_write لكل نموذج في النماذج.

التخزين المؤقت التلقائي

هؤلاء المزوّدون يخزّنون مؤقتًا من تلقاء أنفسهم. لا تحتاج إلى تغيير أي شيء:

ضع الأجزاء التي لا تتغير في بداية المطالبة والأجزاء المتغيرة في نهايتها، لتتطابق البادئة بين الطلبات.

التخزين المؤقت الصريح عبر cache_control

يحتاج Anthropic Claude (والتخزين المؤقت الصريح في Gemini) إلى نقاط فصل. أضف cache_control إلى جزء محتوى نصي:

{
  "model": "anthropic/claude-sonnet-4.5",
  "messages": [
    {
      "role": "system",
      "content": [
        { "type": "text", "text": "You are a contracts assistant." },
        {
          "type": "text",
          "text": "<the full 40-page agreement text>",
          "cache_control": { "type": "ephemeral" }
        }
      ]
    },
    { "role": "user", "content": "Which clause covers termination?" }
  ]
}

• يسمح Anthropic بما يصل إلى 4 نقاط فصل. تبقى الذاكرة المؤقتة نحو 5 دقائق وتتجدد عند كل إصابة. استخدم "ttl": "1h" لذاكرة أطول، وكتابتها أغلى.
• كتابة الذاكرة المؤقتة لدى Anthropic تكلف نحو 1.25× الإدخال، والقراءة نحو 0.1×.
• لمواصلة إصابة ذاكرة المزوّد نفسه، أضف provider: { "order": ["Anthropic"], "allow_fallbacks": false } إذا احتجت إلى ذلك.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api14.com/api/v1",
  apiKey: process.env.API14_API_KEY,
});

const result = await client.chat.completions.create({
  "model": "anthropic/claude-sonnet-4.5",
  "messages": [
    {
      "role": "user",
      "content": "Explain vector databases in two sentences."
    }
  ]
});
console.log(result.choices[0].message.content);

قراءة استهلاك الذاكرة المؤقتة

يعرض الكائن usage الرموز المخزنة مؤقتًا، وcost يتضمن الخصم أصلًا:

{
  "usage": {
    "prompt_tokens": 10450,
    "completion_tokens": 120,
    "total_tokens": 10570,
    "prompt_tokens_details": { "cached_tokens": 10200 },
    "cost": 0.004863
  }
}

يظهر cached_tokens أيضًا في سجلات الاستهلاك في لوحة التحكم. يعرض البحث عن عملية توليد التفاصيل الكاملة، بما فيها cache_discount.

الأخطاء

التخزين المؤقت لا يسبب أخطاء بذاته. يتجاهل المزوّد cache_control المشوَّه أو يرفضه بالخطأ 400. راجع الأخطاء.