Usamos cookies. Las cookies y el almacenamiento del navegador mantienen tu sesión iniciada y recuerdan tus preferencias. Con tu permiso, también medimos cómo se usa el sitio. Puedes en cualquier momento. Consulta nuestra política de cookies.
mongodb/voyage-4Se ejecuta con tu saldo a los precios indicados arriba. Las cuentas nuevas empiezan con uso gratuito.
Configuración
VoyageAI by MongoDB: voyage-4 es un modelo de embeddings de VoyageAI by MongoDB. Pertenece a la categoría de embeddings, lo que significa que su función es convertir texto en representaciones vectoriales en lugar de generar respuestas de chat. Es un modelo de propósito general, y está diseñado para manejar contenido multilingüe así como inglés. Si tu aplicación depende de la similitud semántica, la recuperación o la calidad de búsqueda, esta es la clase de modelo que evaluarías.
El modelo acepta texto como entrada y devuelve embeddings como salida. Su longitud de contexto es de 32.000 tokens, y su salida máxima es de 28.800. Debido a que la salida es un vector en lugar de texto en prosa, no lo usarás para conversación, resumen o generación de código. En su lugar, le envías texto y recibes la representación numérica que los sistemas posteriores usan para comparación y clasificación. El soporte multilingüe significa que el mismo modelo se puede usar con contenido en diferentes idiomas sin cambiar a un modelo de embeddings separado para cada uno.
Los usos prácticos se derivan directamente de esa forma. La recuperación y la búsqueda son los objetivos principales, por lo que voyage-4 encaja en la búsqueda semántica sobre una colección de documentos, en canalizaciones de generación aumentada por recuperación donde necesitas obtener pasajes relevantes antes de pasarlos a un modelo de lenguaje, y en aplicaciones de IA que dependen de la similitud entre consultas y contenido almacenado. La recuperación multilingüe también encaja de forma natural, ya que las consultas y los documentos no tienen que estar en el mismo idioma para que los embeddings sean útiles. El agrupamiento, la deduplicación y la coincidencia tipo recomendación también son aplicaciones razonables, porque todas se reducen a comparar embeddings.
Llamas al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "mongodb/voyage-4". Debido a que la interfaz sigue el formato de OpenAI, puedes apuntar un cliente de OpenAI existente a api14 y enviar solicitudes de embeddings sin reescribir tu integración. El modelo no lista parámetros admitidos más allá de los campos de solicitud estándar, así que mantén tus solicitudes simples y evita asumir opciones de ajuste que no forman parte de la interfaz. El id de modelo es el valor que colocas en la solicitud para seleccionar este modelo específico.
Una cosa a tener en cuenta es el alcance. Este es un modelo de embeddings, así que si necesitas generación de texto, razonamiento o uso de herramientas, un modelo de chat o de completado es la mejor opción. El contexto de 32.000 tokens y la salida máxima de 28.800 describen la carga de trabajo de embeddings, no un presupuesto de chat. Usa voyage-4 cuando la tarea sea representación y recuperación, y recurre a un modelo generativo cuando la tarea sea producir texto.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "mongodb/voyage-4",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Esta comunidad aún no tiene temas. Abre el primero sobre VoyageAI by MongoDB: voyage-4.