api14
Skaffa API-nyckel

Vi använder cookies. Cookies och webbläsarlagring håller dig inloggad och kommer ihåg dina preferenser. Med ditt tillstånd mäter vi också hur webbplatsen används. Du kan när som helst. Läs vår cookiepolicy.

Leverantörsroutning och reservval

Endpoints

Leverantörsroutning och reservval

Välj, ordna och filtrera uppströmsleverantörer med objektet provider och låt anrop falla tillbaka på andra modeller med models, med exempel och regler.

Testa i playground

Många modeller serveras av flera uppströmsleverantörer, var och en med eget pris, egen hastighet och egen datapolicy. Som standard lastbalanseras anrop mellan leverantörer efter pris och drifttid, och faller tillbaka på en annan leverantör när en misslyckas. Använd objektet provider för att ändra detta, och models för att falla tillbaka mellan olika modeller.

Objektet provider

FältTypBeskrivning
orderstring[]Leverantörer som ska provas först, i ordning, t.ex. ["Anthropic", "Amazon Bedrock"].
allow_fallbacksbooleanfalse hindrar anropet från att gå till leverantörer utanför order eller only (standard true).
onlystring[]Tillåt bara de här leverantörerna.
ignorestring[]Använd aldrig de här leverantörerna.
sortstring"price", "throughput" eller "latency" i stället för lastbalansering.
data_collectionstring"deny" utesluter leverantörer som kan lagra eller träna på prompter. "allow" är standard.
require_parametersbooleanAnvänd bara leverantörer som stöder alla parametrar i ditt anrop (t.ex. tools, response_format).
quantizationsstring[]Tillåtna precisioner, t.ex. ["fp8", "bf16"].
max_priceobjectÖvre prisgränser i USD per miljon tokens, t.ex. { "prompt": 1, "completion": 3 }.
{
  "model": "meta-llama/llama-3.3-70b-instruct",
  "messages": [{ "role": "user", "content": "Hello" }],
  "provider": {
    "order": ["Groq", "Fireworks"],
    "allow_fallbacks": true,
    "data_collection": "deny",
    "sort": "throughput"
  }
}

Varianten :nitro är en genväg för sort: "throughput" och :floor är en genväg för sort: "price". Se Modell-id.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api14.com/api/v1",
  apiKey: process.env.API14_API_KEY,
});

const result = await client.chat.completions.create({
  "model": "openai/gpt-5-mini",
  "messages": [
    {
      "role": "user",
      "content": "Explain vector databases in two sentences."
    }
  ]
});
console.log(result.choices[0].message.content);

Modellreserv med models

Skicka en lista med modeller. Om den första misslyckas (ett avbrott, en hastighetsgräns, moderering eller fel på kontextlängd) provas nästa:

{
  "models": ["anthropic/claude-sonnet-4.5", "openai/gpt-5-mini", "google/gemini-2.5-flash"],
  "messages": [{ "role": "user", "content": "Summarize this ticket." }]
}
  • model är valfri när models är angiven. Om du skickar båda provas model först.
  • Varje modell i listan måste klara gatewayens kontroller innan anropet skickas: den måste finnas och vara aktiverad, finnas i din nyckels tillåtelselista för modeller och ingå i din plan. En enda modell som inte klarar kontrollerna avvisar hela anropet (403 model_not_allowed, 403 plan_required eller 404 model_not_found).
  • Du faktureras bara för den modell som svarade, till dess eget pris. Fältet model i svaret visar vilken det var.

Svar

{
  "id": "gen-1760000000-route",
  "model": "openai/gpt-5-mini",
  "provider": "OpenAI",
  "choices": [{ "index": 0, "finish_reason": "stop", "message": { "role": "assistant", "content": "..." } }],
  "usage": { "prompt_tokens": 140, "completion_tokens": 60, "total_tokens": 200, "cost": 0.000155 }
}

provider visar vilken uppströmsleverantör som hanterade anropet. Generationsuppslag visar alla routningsdetaljer.

Fel

Om ingen leverantör matchar dina filter (t.ex. only tillsammans med require_parameters) returnerar uppströmssidan 404 "No endpoints found". Övriga fel är desamma som för Chat completions. Se Fel.