Intfloat: Multilingual-E5-Large

Intfloat: Multilingual-E5-Large es un modelo de embeddings de Intfloat, listado en api14 dentro de la categoría embeddings. Toma texto como entrada y devuelve embeddings como salida, por lo que no es un modelo de chat ni de generación de texto. Su propósito es convertir el lenguaje en vectores que puedas almacenar, comparar y buscar. El proveedor lo describe como la codificación de frases, párrafos y documentos en más de 90 idiomas en un espacio vectorial denso de 1024 dimensiones, con embeddings semánticos ajustados para la recuperación multilingüe y la similitud entre idiomas.

La ventana de contexto es de 512 tokens y la salida máxima es de 460. Como la entrada es texto y la salida es un vector en lugar de palabras generadas, no hay comportamiento de muestreo que ajustar: el modelo no acepta parámetros soportados, por lo que las solicitudes llevan tu entrada y nada más en cuanto a ajustes de generación. El límite de 512 tokens significa que cada llamada debe acotarse a una frase, un párrafo corto o un fragmento de tamaño similar, en lugar de a un documento largo pasado entero.

Los usos prácticos se derivan de esa forma. La recuperación multilingüe es la principal: indexar documentos en uno o varios idiomas y buscarlos con consultas en otro. La similitud entre idiomas te permite comparar o agrupar texto escrito en distintos idiomas dentro del mismo espacio vectorial. El trabajo relacionado incluye búsqueda semántica sobre un corpus de idiomas mixtos, deduplicación de pasajes casi idénticos, enrutamiento o clasificación basados en lo cerca que está un fragmento de texto de ejemplos de referencia, y la construcción de capas de recuperación que alimentan a un modelo de generación aparte.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo "intfloat/multilingual-e5-large". Como el endpoint sigue la forma de embeddings de OpenAI, las bibliotecas cliente y el código existentes que ya apuntan a una URL base compatible con OpenAI deberían funcionar con solo cambiar el id de modelo. Envía tu texto como input y lee el vector de vuelta desde la respuesta. No se soportan parámetros de solicitud adicionales, así que mantén la solicitud mínima y deja que el modelo devuelva el embedding.

El contexto de 512 tokens es la principal restricción a tener en cuenta. Los documentos largos deben dividirse en fragmentos antes de generar los embeddings, y cualquier pipeline que asuma una ventana mayor, o que espere texto generado de vuelta, necesitará un modelo diferente. Si tu tarea es generación, resumen o conversación en lugar de representación, un modelo instruct o de chat en api14 encaja mejor; este modelo es para convertir texto en vectores.