Usamos cookies. Cookies e o armazenamento do navegador mantêm você conectado e lembram suas preferências. Com sua permissão, também medimos como o site é usado. Você pode a qualquer momento. Veja nossa política de cookies.

AionLabs: Aion-2.0 contra Cohere: Command R+ (08-2024)

Uma comparação lado a lado entre AionLabs: Aion-2.0 (US$ 2,80 / 1M fragmentos) e Cohere: Command R+ (08-2024) (US$ 8,75 / 1M fragmentos) com preços em USD e recursos atuais do catálogo do api14. Os dois funcionam pela mesma API compatível com OpenAI.

Especificações

AionLabs: Aion-2.0Cohere: Command R+ (08-2024)
ProvedorAionLabsCohere
EntradaUS$ 2,80 / 1M fragmentosUS$ 8,75 / 1M fragmentos
SaídaUS$ 5,60 / 1M fragmentosUS$ 35,00 / 1M fragmentos
Leitura de cacheUS$ 0,70 / 1M fragmentos-
Janela de contexto131.072128.000
Saída máxima32.7684.000
Entradatexttext
Saídatexttext
chamada de ferramentas
Saída estruturada
Controle de raciocínio
Adicionado em23 de fev. de 202630 de ago. de 2024

Principais diferenças

  • AionLabs: Aion-2.0 é 68% mais barato nos tokens de entrada.
  • AionLabs: Aion-2.0 é 84% mais barato nos tokens de saída.
  • Só o Cohere: Command R+ (08-2024) suporta saída JSON estruturada.
  • Só o AionLabs: Aion-2.0 suporta controle do esforço de raciocínio.
  • Uma requisição com 1.000 tokens de entrada e 500 de saída custa US$ 0,00560 com AionLabs: Aion-2.0 e US$ 0,03 com Cohere: Command R+ (08-2024).

Em detalhe

AionLabs: Aion-2.0 é um modelo de texto da AionLabs, lançado em 2026-02-23. Cohere: Command R+ (08-2024) é um modelo de texto da Cohere, lançado em 2024-08-30. Ambos são servidos através do api14 como modelos de chat na categoria de texto, e ambos aceitam texto como entrada e retornam texto como saída. Nenhum dos dois lida com imagens, áudio ou qualquer outra modalidade, portanto, se a sua carga de trabalho é puramente linguística, ambos são candidatos.

Os dois modelos diferem no comprimento de contexto no papel: Aion-2.0 lista 131072 tokens e Command R+ lista 128000 tokens, o que é suficientemente próximo para que o tamanho do contexto não deva decidir a escolha por você. As diferenças mais úteis estão nos parâmetros que cada modelo expõe. Aion-2.0 suporta reasoning e include_reasoning, portanto pode expor uma passagem de raciocínio, e também suporta tools, tool_choice, response_format, temperature, top_p e max_tokens. Command R+ não expõe um parâmetro de raciocínio, mas suporta structured_outputs juntamente com tools, tool_choice, response_format, temperature, top_p, top_k, frequency_penalty, presence_penalty, seed e stop. Em resumo, o raciocínio só está disponível no Aion-2.0, e as saídas estruturadas só estão disponíveis no Command R+.

Para a seleção prática, comece pela capacidade de que você realmente precisa. Se a sua tarefa se beneficia de um passo de raciocínio visível, ou se você quer ativar e desativar o raciocínio por requisição, o Aion-2.0 é o modelo a chamar, já que o Command R+ não tem parâmetro equivalente. Se você precisa de saídas estruturadas, o Command R+ é o modelo a chamar, porque o Aion-2.0 não lista esse parâmetro. Ambos suportam chamada de ferramentas, portanto fluxos de trabalho no estilo agente com chamadas de função funcionam em qualquer um dos dois. O Aion-2.0 é o mais barato dos dois tanto na entrada quanto na saída, portanto, quando uma tarefa se encaixa em ambos os modelos e você está otimizando para custo, o Aion-2.0 é o padrão. O Command R+ continua sendo uma escolha razoável quando você quer os seus controles de amostragem extras, como seed para execuções repetíveis, top_k, ou as penalidades de frequência e presença, ou quando saídas estruturadas fazem parte do seu pipeline.

Chamar qualquer um dos modelos através do api14 funciona da mesma forma porque a API é compatível com OpenAI. Você envia uma requisição de chat completions para o mesmo endpoint com o mesmo formato de corpo de requisição, e a única coisa que muda é o id do modelo. Use "aion-labs/aion-2.0" quando você quer o Aion-2.0, e use "cohere/command-r-plus-08-2024" quando você quer o Command R+. Mensagens, papéis e os campos habituais são transportados sem alterações, portanto alternar entre os dois para um teste A/B é uma edição de uma linha em vez de uma reescrita. Tenha em mente que os parâmetros não são perfeitamente intercambiáveis: enviar reasoning para o Command R+ ou structured_outputs para o Aion-2.0 não é suportado, portanto reduza o corpo da requisição aos parâmetros que o modelo de destino lista.

Há casos em que o modelo mais antigo ainda é a melhor escolha, apesar de ser o mais caro. Se a sua aplicação depende de saídas estruturadas, ou de seed para amostragem reproduzível, ou de top_k e dos parâmetros de penalidade para moldar a geração, o Command R+ oferece controles que o Aion-2.0 não expõe. Nessas situações, a diferença de preço é secundária em relação a obter o comportamento de que você precisa, e você deve chamar "cohere/command-r-plus-08-2024" mesmo que o Aion-2.0 seja mais barato na entrada e na saída.

Troque com uma string

Os dois modelos usam o mesmo endpoint e o mesmo formato de requisição. Mude o valor de model de "aion-labs/aion-2.0" para "cohere/command-r-plus-08-2024", prompts, streaming e ferramentas continuam funcionando.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api14.com/api/v1",
  apiKey: process.env.API14_API_KEY,
});

const result = await client.chat.completions.create({
  "model": "cohere/command-r-plus-08-2024",
  "messages": [
    {
      "role": "user",
      "content": "Explain vector databases in two sentences."
    }
  ]
});
console.log(result.choices[0].message.content);

Mais comparações