OpenAI: Text Embedding 3 Small (batch)

OpenAI: Text Embedding 3 Small (batch) é um modelo de embedding da OpenAI, oferecido através da api14. Pertence à categoria de embeddings, e o seu id de modelo na api14 é openai/text-embedding-3-small:batch. A OpenAI descreve o text-embedding-3-small como uma versão melhorada e com melhor desempenho do modelo de embedding ada. Embeddings são uma representação numérica de texto que pode ser usada para medir a relação entre dois trechos de texto.

O modelo recebe texto como sua única entrada e retorna embeddings como sua única saída. Tem um comprimento de contexto de 8192 tokens, e a saída máxima é 7372. Não há parâmetros suportados listados para este modelo, portanto não é possível ajustar configurações de amostragem ou geração através do pedido. O sufixo batch no id do modelo indica a variante em lote deste modelo de embedding na api14.

Como produz embeddings em vez de texto gerado, os usos práticos decorrem da medição de similaridade entre textos. Trabalhos típicos incluem pesquisa semântica, onde se faz o embedding de uma consulta e de um conjunto de documentos e se classificam os documentos por proximidade; recuperação para um pipeline de geração aumentada por recuperação, onde os embeddings selecionam passagens relevantes para passar a um modelo de chat; agrupamento ou agrupamento por tópicos de grandes coleções de texto; deduplicação, onde itens quase idênticos são encontrados comparando vetores; e classificação ou encaminhamento, onde um modelo leve consome os embeddings. O contexto de 8192 tokens significa que entradas individuais podem ser bastante longas, portanto páginas inteiras ou passagens longas podem receber embedding sem serem divididas primeiro.

Para o chamar através da api14, use a API compatível com OpenAI com o id de modelo openai/text-embedding-3-small:batch. Aponte o seu cliente OpenAI existente para o URL base da api14 e envie o seu texto para o endpoint de embeddings, ou use a rota equivalente em estilo chat se o seu cliente esperar por uma. Como o modelo não lista parâmetros suportados, mantenha os pedidos simples: envie o id do modelo e o texto de entrada, e leia o vetor de embedding a partir da resposta. Não é necessário definir temperature, top_p, ou opções semelhantes, uma vez que este modelo não as aceita.

Uma coisa a ter em mente é que este modelo apenas lida com entrada de texto e apenas retorna embeddings. Não gera conclusões de chat nem qualquer outra saída de texto, portanto se a sua tarefa for conversação, sumarização, ou geração de código, um modelo de chat ou de conclusão é a melhor escolha. Se precisar de fazer embedding de volumes muito grandes de texto, a variante em lote é a escolha relevante aqui, enquanto outros modelos de embedding podem servir diferentes necessidades de precisão ou de idioma.