BAAI: bge-base-en-v1.5

BAAI: bge-base-en-v1.5 es un modelo de embeddings de BAAI, la Academia de Inteligencia Artificial de Pekín. Pertenece a la categoría de embeddings, lo que significa que no está diseñado para generar respuestas de chat ni completar texto. En su lugar, convierte texto en vectores numéricos. Es un modelo de idioma inglés, y el v1.5 de su nombre indica que se trata de la versión 1.5 de la familia bge-base-en. Si tu aplicación necesita un asistente de chat general, este no es ese tipo de modelo. Si tu aplicación necesita comparar, buscar o emparejar texto por significado, este es el tipo de modelo a evaluar.

El modelo acepta texto como entrada y produce embeddings como salida. En concreto, convierte frases y párrafos en inglés en vectores densos de 768 dimensiones, que están pensados para transportar significado semántico. La longitud de contexto es de 512 tokens, y la salida máxima es de 460. En la práctica, 512 tokens significa que deberías enviar frases o párrafos individuales en lugar de documentos largos, ya que el material más extenso tendrá que dividirse antes de generar los embeddings. El proveedor describe el modelo como capaz de ofrecer embeddings semánticos eficientes y de alta calidad, optimizados para flujos de trabajo de recuperación, búsqueda semántica y emparejamiento de documentos. Los vectores son densos, por lo que son lo bastante compactos para almacenarlos y compararlos a escala.

Esas características apuntan a un conjunto bastante específico de casos de uso. La búsqueda semántica es el más claro: genera el embedding de una consulta y de tus documentos, y luego clasifica los documentos por similitud vectorial en lugar de por coincidencia de palabras clave. Los pipelines de recuperación pueden usar el mismo comportamiento para obtener pasajes relevantes para una pregunta. El emparejamiento de documentos también encaja, por ejemplo para encontrar registros casi duplicados, agrupar tickets de soporte similares o vincular elementos relacionados entre dos colecciones. Como el modelo es solo para inglés y está limitado a 512 tokens, se adapta a tareas a nivel de frase y párrafo. La deduplicación, el clustering y la puntuación de similitud sobre texto corto en inglés son todos usos naturales, siempre que dividas primero las entradas más largas.

Puedes llamar al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "baai/bge-base-en-v1.5". Como la API sigue el formato de OpenAI, puedes apuntar un cliente de OpenAI existente a api14, enviar tu texto al endpoint de embeddings y recibir los vectores en la respuesta. Los parámetros compatibles listados para este modelo están vacíos, por lo que no admite opciones de ajuste adicionales más allá de lo que ya incluya tu solicitud; no hay nada como temperature o top_p que configurar, ya que esos pertenecen a la generación de texto y no a los embeddings. Consulta la tabla de precios en vivo de esta página para ver las tarifas actuales.

Las principales restricciones que hay que tener en cuenta son la longitud de contexto de 512 tokens, la salida máxima de 460, la entrada solo en inglés y el hecho de que la salida son vectores en lugar de texto. Si necesitas generar embeddings de documentos largos en una sola pasada, manejar varios idiomas o generar texto, otro modelo de api14 encajará mejor. Dentro de su ámbito previsto, recuperación, búsqueda semántica y emparejamiento de documentos sobre frases y párrafos en inglés, este modelo es una opción directa.