NVIDIA: Llama Nemotron Embed VL 1B V2 (free)

Llama Nemotron Embed VL 1B V2 es un modelo de embeddings de NVIDIA, distribuido en api14 bajo el id de modelo nvidia/llama-nemotron-embed-vl-1b-v2:free. Pertenece a la categoría de embeddings, y su propósito declarado es la recuperación multimodal para respuesta a preguntas. Es un modelo de clase 1B, lo que lo sitúa entre las opciones más pequeñas de la familia Nemotron, y aquí se ofrece en una variante gratuita.

El modelo acepta texto e imágenes como entrada y produce embeddings como salida. Puede generar embeddings de documentos en tres formas: solo imagen, solo texto, o imagen y texto juntos. Esa flexibilidad es el núcleo de su diseño, ya que los sistemas de recuperación a menudo necesitan hacer coincidir una pregunta de texto con la imagen de una página, una captura de pantalla, un diagrama o un pasaje de prosa. La ventana de contexto es de 131072 tokens, y la salida máxima es de 117964, por lo que se pueden generar embeddings de documentos largos sin dividirlos en muchos fragmentos.

Los usos prácticos se derivan de la recuperación multimodal. Un equipo que construye un sistema de respuesta a preguntas sobre documentos escaneados, PDFs, imágenes de productos o bases de conocimiento de medios mixtos puede generar el embedding de cada elemento una vez y luego ejecutar una búsqueda por similitud contra una consulta de texto. Dado que la imagen y el texto se pueden embeber conjuntamente, el mismo índice puede atender consultas sobre un gráfico y consultas sobre el párrafo que está a su lado, lo que evita mantener canalizaciones separadas para contenido visual y textual. También es adecuado para la deduplicación, el agrupamiento y la recomendación sobre colecciones que mezclan capturas de pantalla con material escrito.

Para llamarlo a través de api14, use el endpoint de embeddings compatible con OpenAI con el id de modelo nvidia/llama-nemotron-embed-vl-1b-v2:free. El modelo no lista parámetros admitidos, por lo que las solicitudes deben basarse en los campos estándar que requiere el endpoint en lugar de controles de muestreo como temperature o top_p, que no se aplican a los modelos de embeddings. Envíe su entrada con la forma habitual de una solicitud de embeddings y lea el vector de vuelta desde la respuesta.

Un aspecto a tener en cuenta es que este es un modelo de embeddings, no un modelo de chat o generación, por lo que no responderá preguntas ni escribirá texto. Si su tarea es generación, razonamiento o conversación, un modelo diferente es la elección correcta. También vale la pena comprobar que su pila de recuperación pueda almacenar y comparar las dimensiones del vector que devuelve el modelo, y que sus entradas quepan dentro del contexto de 131072 tokens.