VoyageAI by MongoDB: voyage-4

voyage-4 é um modelo de embedding de uso geral da Voyage AI, a empresa por trás da família de embeddings Voyage que agora faz parte da MongoDB. Ele está listado em api14 sob o id de modelo voyageai/voyage-4 e fica na categoria de embeddings, portanto é construído para transformar texto em vetores em vez de gerar respostas de chat. Se você está escolhendo um modelo de embedding para um sistema de recuperação ou busca, este é o tipo de modelo que você avaliaria junto com outras opções de embedding de uso geral.

O modelo aceita texto como entrada e retorna embeddings como saída. Ele é descrito como de uso geral e multilíngue, e é otimizado para recuperação e busca, bem como para outras aplicações de IA. Ele suporta embeddings com 2048, 1024, 512 e 256 dimensões, juntamente com múltiplas opções de quantização, o que permite trocar o tamanho do vetor por características de armazenamento e busca dependendo do seu índice. O comprimento de contexto é de 32000 tokens, e a saída máxima é de 28800, portanto documentos longos podem ser convertidos em embeddings sem dividi-los em muitos pedaços pequenos.

Essas capacidades apontam para um conjunto bastante específico de usos. Recuperação e busca são os principais: indexar uma coleção de documentos, gerar embeddings de consultas e compará-los por similaridade vetorial. Como o modelo é multilíngue, ele também se adequa a coleções e consultas que misturam idiomas, e como suporta várias dimensões de saída e opções de quantização, pode atender tanto a um índice de alta fidelidade quanto a um menor e mais compacto. Aplicações comuns incluem pipelines de geração aumentada por recuperação, busca semântica em documentação interna, deduplicação ou agrupamento de texto, e sistemas de recomendação ou classificação que operam sobre embeddings em vez de texto gerado.

Você o chama através da API compatível com OpenAI da api14 usando o id de modelo voyageai/voyage-4, enviando texto e recebendo embeddings na resposta. A lista de parâmetros suportados do modelo está vazia, portanto você não deve esperar passar controles de amostragem como temperature ou top_p; a requisição é essencialmente o texto de entrada mais o id do modelo. As escolhas de dimensão e quantização fazem parte do comportamento de embedding do modelo, e não de parâmetros de requisição expostos aqui, então verifique a referência atual da API sobre como elas são selecionadas antes de construir em torno de um tamanho de vetor específico.

Uma coisa a ter em mente é que este é um modelo de embedding, não um modelo de chat ou de conclusão. Se sua tarefa é gerar texto, resumir ou manter uma conversa, um modelo de geração de texto é o mais adequado, e voyage-4 só seria útil como um componente de apoio em um pipeline de recuperação. Ele também aceita apenas texto, portanto entradas em outras modalidades estão fora do escopo. Dentro desses limites, ele é um candidato razoável para trabalho de busca e recuperação onde você quer controle sobre as dimensões de embedding.