Sentence Transformers: all-MiniLM-L6-v2

Sentence Transformers: all-MiniLM-L6-v2 é um modelo de embeddings da Sentence Transformers, listado em api14 na categoria de embeddings. É um modelo compacto de embeddings de frases, e não um modelo de chat ou de geração de texto, portanto a sua função é transformar texto em vetores que capturam significado. Se estiver a construir pesquisa semântica, deduplicação ou clustering, este é o tipo de modelo a que recorre em vez de um modelo generativo.

O modelo recebe texto como entrada e devolve embeddings como saída. Mapeia frases e parágrafos curtos para um espaço vetorial denso de 384 dimensões, e é isso que o torna útil para representação semântica. A janela de contexto é de 512 tokens, e a saída máxima é 460, por isso foi concebido para frases e passagens curtas, e não para documentos longos. Não há suporte para parâmetros de amostragem ou de estilo de geração, porque o modelo não gera texto.

Essas capacidades apontam para um conjunto bastante específico de casos de uso. A recuperação de informação e a pesquisa semântica são os mais óbvios: incorporar os seus documentos e a sua consulta, e depois comparar vetores por similaridade. O clustering e o agrupamento por tópicos funcionam bem porque vetores próximos tendem a significar coisas semelhantes. A mesma propriedade ajuda na deduplicação, na deteção de quase duplicados e na construção de pipelines de recomendação ou de reordenação onde precisa de um passo de embedding rápido e pequeno. Como os vetores têm apenas 384 dimensões, o armazenamento e a comparação mantêm-se baratos à escala.

Chama-o através da API compatível com OpenAI da api14 usando o id de modelo "sentence-transformers/all-minilm-l6-v2". Como o endpoint segue a forma de embeddings da OpenAI, envia o seu texto no campo input e lê o vetor de volta a partir da resposta. O modelo não lista parâmetros suportados, por isso não há nada extra para ajustar no corpo do pedido além do id de modelo e do próprio input. Trate o contexto de 512 tokens como um limite rígido ao preparar o seu input.

Esse limite de contexto é a principal restrição prática. Se a sua unidade de significado for maior do que um parágrafo curto, terá de a dividir em chunks antes do embedding, e a qualidade da sua divisão em chunks importará mais do que qualquer outra coisa no pipeline. Se precisar de um modelo que gere texto, responda a perguntas ou siga instruções, um modelo de embeddings é a ferramenta errada e deve procurar antes um modelo de chat ou de completions. Para similaridade semântica sobre frases e passagens curtas, este encaixa directamente na tarefa.