Usamos cookies. Cookies e o armazenamento do navegador mantêm você conectado e lembram suas preferências. Com sua permissão, também medimos como o site é usado. Você pode a qualquer momento. Veja nossa política de cookies.
cohere/embed-5-fastUsa o seu saldo, aos preços acima. Novas contas começam com uso grátis.
Configurações
Cohere: Embed 5 Fast é um modelo de embedding multimodal da Cohere, posicionado como o nível de menor latência e mais eficiente em custo da família Embed 5 da empresa. Ele foi criado para desenvolvedores que precisam transformar conteúdo em representações vetoriais em escala, onde throughput e capacidade de resposta importam tanto quanto a qualidade do embedding. O modelo está na categoria de embeddings, e não na categoria de chat, portanto não gera texto conversacional; seu trabalho é produzir vetores que sistemas downstream possam pesquisar, comparar ou classificar.
O modelo aceita texto, imagens e conteúdo intercalado de texto e imagem como entrada, e retorna embeddings como sua única saída. Esse suporte a entrada multimodal significa que um único modelo pode gerar embedding de um parágrafo, de uma foto de produto ou de uma página de documento que mistura ambos, o que mantém os pipelines de recuperação mais simples do que manter codificadores separados para texto e imagem. Ele oferece um comprimento de contexto de 128.000 tokens, com saída máxima de 115.200, dando espaço para lidar com documentos longos e grandes cargas de imagem e texto sem chunking agressivo. Com aproximadamente 1B de parâmetros, é um modelo compacto por design, o que é consistente com seu posicionamento rápido e eficiente em custo.
Essas capacidades apontam para um conjunto bastante específico de casos de uso. A busca semântica em mídia mista é o encaixe mais direto: indexar texto e imagens em um único espaço vetorial para que uma consulta possa recuperar qualquer um dos dois. Pipelines de geração aumentada por recuperação podem usá-lo para gerar embeddings de bases de conhecimento que contêm figuras, capturas de tela ou páginas digitalizadas junto com texto corrido. Sistemas de recomendação e similaridade se beneficiam do espaço compartilhado, já que itens podem ser comparados independentemente de seu conteúdo ser textual ou visual. Classificação, agrupamento, deduplicação e detecção de anomalias em grandes corpora também são aplicações naturais, particularmente onde o volume de dados torna latência e custo por embedding uma preocupação prática.
Você chama o modelo através da API compatível com OpenAI da api14 usando o model id "cohere/embed-5-fast". Como o endpoint segue a convenção de embeddings da OpenAI, clientes e SDKs existentes que já têm como alvo essa interface podem apontar para a api14 com mudanças mínimas, tipicamente apenas trocando a URL base e o model id. O modelo não declara nenhum parâmetro de requisição suportado além do formato padrão de requisição de embedding, então você não deve esperar que ajustes como dimensões personalizadas ou opções específicas do provedor estejam disponíveis; envie sua entrada e leia os vetores retornados.
Dado que é o nível rápido da família Embed 5, é a opção padrão sensata quando você está gerando embeddings em volume e latência ou throughput é a restrição. Se sua carga de trabalho é puramente texto e não precisa de tratamento de imagens, um modelo de embedding somente texto pode ser um encaixe mais simples. Se você precisa de um modelo que gere texto em vez de vetores, esta não é a escolha certa, já que sua modalidade de saída é apenas embeddings.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "cohere/embed-5-fast",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Esta comunidade ainda não tem tópicos. Abra o primeiro sobre Cohere: Embed 5 Fast.