Intfloat: Multilingual-E5-Large

Intfloat: Multilingual-E5-Large é um modelo de embeddings da Intfloat, listado na api14 na categoria de embeddings. Recebe texto como entrada e devolve embeddings como saída, pelo que não é um modelo de chat ou de geração de texto. O seu propósito é transformar linguagem em vetores que pode armazenar, comparar e pesquisar. O fornecedor descreve-o como codificando frases, parágrafos e documentos em mais de 90 línguas num espaço vetorial denso de 1024 dimensões, com embeddings semânticos ajustados para recuperação multilingue e similaridade entre línguas.

A janela de contexto é de 512 tokens e a saída máxima é de 460. Como a entrada é texto e a saída é um vetor em vez de palavras geradas, não há comportamento de amostragem para ajustar: o modelo não aceita parâmetros suportados, pelo que os pedidos transportam a sua entrada e nada mais em termos de definições de geração. O limite de 512 tokens significa que cada chamada deve ser limitada a uma frase, um parágrafo curto ou um bloco de tamanho semelhante, em vez de um documento longo passado por inteiro.

Os usos práticos decorrem dessa forma. A recuperação multilingue é o principal: indexar documentos numa ou em várias línguas e pesquisá-los com consultas noutra. A similaridade entre línguas permite comparar ou agrupar texto escrito em línguas diferentes no mesmo espaço vetorial. Trabalhos relacionados incluem pesquisa semântica sobre um corpus de línguas mistas, deduplicação de passagens quase idênticas, encaminhamento ou classificação com base na proximidade de um trecho de texto a exemplos de referência, e construção de camadas de recuperação que alimentam um modelo de geração separado.

Chama-o através da API compatível com OpenAI da api14 usando o id de modelo "intfloat/multilingual-e5-large". Como o endpoint segue a forma de embeddings da OpenAI, bibliotecas de cliente e código existentes que já apontam para um URL base compatível com OpenAI devem funcionar apenas com a alteração do id de modelo. Envie o seu texto como input e leia o vetor de volta a partir da resposta. Não são suportados parâmetros de pedido adicionais, pelo que deve manter o pedido mínimo e deixar o modelo devolver o embedding.

O contexto de 512 tokens é a principal restrição a ter em conta no planeamento. Documentos longos precisam de ser divididos em blocos antes da criação de embeddings, e qualquer pipeline que assuma uma janela maior, ou que espere texto gerado de volta, vai precisar de um modelo diferente. Se a sua tarefa é geração, sumarização ou conversação em vez de representação, um modelo instruct ou de chat na api14 é a melhor opção; este modelo serve para transformar texto em vetores.