Sentence Transformers: all-MiniLM-L6-v2

Sentence Transformers: all-MiniLM-L6-v2 es un modelo de embeddings de Sentence Transformers, listado en api14 dentro de la categoría embeddings. Es un modelo compacto de embeddings de frases en lugar de un modelo de chat o de generación de texto, por lo que su trabajo es convertir texto en vectores que capturan significado. Si estás construyendo búsqueda semántica, deduplicación o clustering, este es el tipo de modelo al que recurres en lugar de uno generativo.

El modelo toma texto como entrada y devuelve embeddings como salida. Mapea frases y párrafos cortos a un espacio vectorial denso de 384 dimensiones, que es lo que lo hace útil para representación semántica. La ventana de contexto es de 512 tokens, y la salida máxima es de 460, por lo que está diseñado para frases y pasajes cortos en lugar de documentos largos. No hay soporte para parámetros de muestreo o de estilo de generación, porque el modelo no genera texto.

Esas capacidades apuntan a un conjunto bastante específico de casos de uso. La recuperación de información y la búsqueda semántica son los obvios: genera embeddings de tus documentos y de tu consulta, luego compara vectores por similitud. El clustering y la agrupación por temas funcionan bien porque los vectores cercanos tienden a significar cosas similares. La misma propiedad ayuda con la deduplicación, la detección de casi duplicados y la construcción de pipelines de recomendación o reranking donde necesitas un paso de embedding rápido y pequeño. Como los vectores son de solo 384 dimensiones, el almacenamiento y la comparación se mantienen baratos a escala.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo "sentence-transformers/all-minilm-l6-v2". Como el endpoint sigue la forma de embeddings de OpenAI, envías tu texto en el campo input y lees el vector de vuelta desde la respuesta. El modelo no lista parámetros soportados, así que no hay nada extra que ajustar en el cuerpo de la solicitud más allá del id de modelo y el propio input. Trata el contexto de 512 tokens como un límite duro al preparar tu input.

Ese límite de contexto es la principal restricción práctica. Si tu unidad de significado es más larga que un párrafo corto, necesitarás dividirla en fragmentos antes de generar el embedding, y la calidad de tu fragmentación importará más que cualquier otra cosa en el pipeline. Si necesitas un modelo que genere texto, responda preguntas o siga instrucciones, un modelo de embeddings es la herramienta equivocada y deberías buscar un modelo de chat o de completado en su lugar. Para similitud semántica sobre frases y pasajes cortos, este se ajusta directamente al trabajo.