Usamos cookies. Las cookies y el almacenamiento del navegador mantienen tu sesión iniciada y recuerdan tus preferencias. Con tu permiso, también medimos cómo se usa el sitio. Puedes en cualquier momento. Consulta nuestra política de cookies.
mongodb/voyage-code-4Se ejecuta con tu saldo a los precios indicados arriba. Las cuentas nuevas empiezan con uso gratuito.
Configuración
VoyageAI de MongoDB: voyage-code-4 es un modelo de embeddings de código de Voyage AI, una compañía de MongoDB. Pertenece a la categoría de embeddings, por lo que su función es convertir la entrada en vectores en lugar de generar respuestas de chat. Está diseñado para agentes de programación y recuperación de código, lo que lo sitúa en la parte de una pila donde necesitas representar código como vectores que se puedan almacenar, comparar y buscar.
El modelo acepta texto como entrada y produce embeddings como salida. Tiene una longitud de contexto de 32.000 tokens y una salida máxima de 28.800, y utiliza embeddings Matryoshka de 2048 dimensiones. Los embeddings Matryoshka se pueden truncar a longitudes más cortas sin dejar de ser utilizables, lo que te da flexibilidad sobre cuánto almacenamiento de vectores y cómputo dedicas. Como la modalidad de entrada es texto, el modelo trabaja sobre código que ha sido serializado como texto, que es como los archivos fuente, los diffs y los fragmentos llegan normalmente a un endpoint de embeddings.
Esas capacidades apuntan a un conjunto de usos bastante específico. La recuperación de código es el principal: indexar un repositorio para que una consulta de búsqueda, una descripción en lenguaje natural o un fragmento de código devuelva los archivos o funciones más relevantes. Los agentes de programación pueden usar los mismos embeddings para encontrar contexto relevante antes de editar o generar código, lo que mantiene al agente anclado en el código real en lugar de depender de lo que cabe en un prompt. El contexto de 32.000 tokens significa que archivos más grandes o fragmentos de varios archivos se pueden incrustar en una sola solicitud, y la propiedad Matryoshka te permite intercambiar tamaño de vector por calidad de recuperación al diseñar tu índice.
Llamas al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "mongodb/voyage-code-4". Como la interfaz sigue el formato de OpenAI, puedes apuntar un cliente de OpenAI existente a api14 y enviar solicitudes de embeddings sin reescribir tu integración. El modelo no admite parámetros de solicitud adicionales, así que envías el id de modelo y tu texto de entrada y lees los vectores devueltos. Aquí no hay superficie de finalización de chat, ni llamada a herramientas ni salida estructurada que configurar.
Ten en cuenta el alcance al elegirlo. Este es un modelo de embeddings, así que no responderá preguntas, escribirá código ni mantendrá una conversación; combínalo con un modelo generativo si necesitas esos comportamientos. Si tu tarea es búsqueda semántica de propósito general sobre prosa en lugar de código, un modelo de embeddings de texto puede encajar mejor, y si necesitas generación necesitas un modelo completamente distinto. Para la recuperación de código y el contexto de agentes de programación, voyage-code-4 está construido exactamente para eso.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "mongodb/voyage-code-4",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Esta comunidad aún no tiene temas. Abre el primero sobre VoyageAI by MongoDB: voyage-code-4.