VoyageAI by MongoDB: voyage-4

voyage-4 es un modelo de embedding de propósito general de Voyage AI, la empresa detrás de la familia de embeddings Voyage que ahora forma parte de MongoDB. Está listado en api14 bajo el id de modelo voyageai/voyage-4 y se sitúa en la categoría de embeddings, por lo que está diseñado para convertir texto en vectores en lugar de generar respuestas de chat. Si estás eligiendo un modelo de embedding para un sistema de recuperación o búsqueda, este es el tipo de modelo que evaluarías junto con otras opciones de embedding de propósito general.

El modelo acepta texto como entrada y devuelve embeddings como salida. Se describe como de propósito general y multilingüe, y está optimizado para recuperación y búsqueda, así como para otras aplicaciones de IA. Admite embeddings de 2048, 1024, 512 y 256 dimensiones, junto con múltiples opciones de cuantización, lo que te permite intercambiar tamaño de vector por características de almacenamiento y búsqueda según tu índice. La longitud de contexto es de 32000 tokens, y la salida máxima es de 28800, por lo que documentos largos pueden ser embebidos sin dividirlos en muchas piezas pequeñas.

Esas capacidades apuntan a un conjunto bastante específico de usos. La recuperación y la búsqueda son lo principal: indexar una colección de documentos, embeber consultas y compararlas por similitud de vectores. Debido a que el modelo es multilingüe, también encaja en colecciones y consultas que mezclan idiomas, y debido a que admite varias dimensiones de embedding y opciones de cuantización, puede servir tanto a un índice de alta fidelidad como a uno más pequeño y compacto. Las aplicaciones comunes incluyen pipelines de generación aumentada por recuperación, búsqueda semántica sobre documentación interna, deduplicación o agrupamiento de texto, y sistemas de recomendación o clasificación que operan sobre embeddings en lugar de texto generado.

Lo llamas a través de la API de api14 compatible con OpenAI usando el id de modelo voyageai/voyage-4, enviando texto y recibiendo embeddings en la respuesta. La lista de parámetros admitidos del modelo está vacía, por lo que no deberías esperar pasar controles de muestreo como temperature o top_p; la solicitud es esencialmente el texto de entrada más el id del modelo. Las elecciones de dimensión y cuantización forman parte del comportamiento de embedding del modelo en lugar de parámetros de solicitud expuestos aquí, así que consulta la referencia actual de la API sobre cómo se seleccionan antes de construir en torno a un tamaño de vector específico.

Una cosa a tener en cuenta es que este es un modelo de embedding, no un modelo de chat o de completado. Si tu tarea es generar texto, resumir o mantener una conversación, un modelo de generación de texto es la opción adecuada, y voyage-4 solo sería útil como componente de apoyo en un pipeline de recuperación. También acepta únicamente texto, por lo que las entradas en otras modalidades quedan fuera de su alcance. Dentro de esos límites, es un candidato razonable para trabajo de búsqueda y recuperación donde quieras control sobre las dimensiones de embedding.