Usiamo i cookie. Cookie e memoria del browser ti mantengono connesso e ricordano le tue preferenze. Con il tuo consenso misuriamo anche come viene usato il sito. Puoi in qualsiasi momento. Consulta la nostra cookie policy.

LiquidAI: LFM2.5-2.6B contro Meta: Llama 3.1 70B Instruct

Un confronto fianco a fianco tra LiquidAI: LFM2.5-2.6B (1,22 USD / 1M token) e Meta: Llama 3.1 70B Instruct (1,40 USD / 1M token) con i prezzi in USD e le funzionalità aggiornati dal catalogo di api14. Entrambi funzionano con la stessa API compatibile OpenAI.

Specifiche

LiquidAI: LFM2.5-2.6BMeta: Llama 3.1 70B Instruct
FornitoreLiquidAIMeta
Ingresso1,22 USD / 1M token1,40 USD / 1M token
Uscita1,75 USD / 1M token1,40 USD / 1M token
Lettura cache0,14 USD / 1M token-
Finestra di contesto128.000131.072
Output massimo819216.384
Ingressotexttext
Uscitatexttext
chiamata di strumenti
Output strutturato
Controllo del ragionamento
Aggiunto11 ago 202623 lug 2024

Differenze principali

  • LiquidAI: LFM2.5-2.6B costa il 13% in meno sui token di input.
  • Meta: Llama 3.1 70B Instruct costa il 20% in meno sui token di output.
  • Solo LiquidAI: LFM2.5-2.6B supporta controllo del livello di ragionamento.
  • Una richiesta con 1.000 token di input e 500 di output costa 0,00210 USD con LiquidAI: LFM2.5-2.6B e 0,00210 USD con Meta: Llama 3.1 70B Instruct.

Cambia modello con una stringa

Entrambi i modelli usano lo stesso endpoint e la stessa struttura di richiesta. Cambia il valore di model da "liquid/lfm-2.5-2.6b" a "meta-llama/llama-3.1-70b-instruct", prompt, streaming e tool continuano a funzionare.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api14.com/api/v1",
  apiKey: process.env.API14_API_KEY,
});

const result = await client.chat.completions.create({
  "model": "meta-llama/llama-3.1-70b-instruct",
  "messages": [
    {
      "role": "user",
      "content": "Explain vector databases in two sentences."
    }
  ]
});
console.log(result.choices[0].message.content);

Altri confronti