We gebruiken cookies. Cookies en browseropslag houden je ingelogd en onthouden je voorkeuren. Met je toestemming meten we ook hoe de site wordt gebruikt. Je kunt je wanneer je wilt. Zie ons cookiebeleid.

LiquidAI: LFM2.5-2.6B tegen Meta: Llama 3.1 70B Instruct

Een vergelijking naast elkaar van LiquidAI: LFM2.5-2.6B (US$ 1,22 / 1M tekstdelen) en Meta: Llama 3.1 70B Instruct (US$ 1,40 / 1M tekstdelen) met actuele USD-prijzen en mogelijkheden uit de catalogus van api14. Beide werken via dezelfde OpenAI-compatibele API.

Specificaties

LiquidAI: LFM2.5-2.6BMeta: Llama 3.1 70B Instruct
AanbiederLiquidAIMeta
InvoerUS$ 1,22 / 1M tekstdelenUS$ 1,40 / 1M tekstdelen
UitvoerUS$ 1,75 / 1M tekstdelenUS$ 1,40 / 1M tekstdelen
Cache lezenUS$ 0,14 / 1M tekstdelen-
Contextvenster128.000131.072
Maximale output8.19216.384
Invoertexttext
Uitvoertexttext
tool-aanroepen
Gestructureerde output
Instelbaar redeneren
Toegevoegd11 aug 202623 jul 2024

Belangrijkste verschillen

  • LiquidAI: LFM2.5-2.6B is 13% goedkoper op inputtokens.
  • Meta: Llama 3.1 70B Instruct is 20% goedkoper op outputtokens.
  • Alleen LiquidAI: LFM2.5-2.6B ondersteunt instelbare redeneerinspanning.
  • Een verzoek met 1.000 input- en 500 outputtokens kost US$ 0,00210 met LiquidAI: LFM2.5-2.6B en US$ 0,00210 met Meta: Llama 3.1 70B Instruct.

Wissel met één string

Beide modellen gebruiken hetzelfde endpoint en dezelfde verzoekstructuur. Verander de waarde van model van "liquid/lfm-2.5-2.6b" naar "meta-llama/llama-3.1-70b-instruct", prompts, streaming en tools blijven werken.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api14.com/api/v1",
  apiKey: process.env.API14_API_KEY,
});

const result = await client.chat.completions.create({
  "model": "meta-llama/llama-3.1-70b-instruct",
  "messages": [
    {
      "role": "user",
      "content": "Explain vector databases in two sentences."
    }
  ]
});
console.log(result.choices[0].message.content);

Meer vergelijkingen