Moondream: Moondream 3 Preview

Moondream: Moondream 3 Preview es un modelo de visión y lenguaje de Moondream, listado en api14 bajo la categoría principal de texto. Es un modelo de mezcla de expertos con 9B parámetros totales y 2B parámetros activos, lo que significa que solo parte de la red se activa para cada solicitud. La etiqueta "preview" en el nombre indica que esta es una versión temprana de la tercera generación de Moondream en lugar de un lanzamiento final. Se ubica en la categoría de texto en api14 aunque acepta imágenes, porque su salida siempre es texto.

El modelo acepta entradas de texto e imagen y devuelve solo texto. Su ventana de contexto es de 32,000 tokens, y la salida máxima es de 4,096 tokens. Según Moondream, maneja respuesta a preguntas visuales, generación de descripciones, OCR y razonamiento visual sobre imágenes. Los parámetros de solicitud admitidos son include_reasoning, max_completion_tokens, max_tokens, reasoning, temperature y top_p. La presencia de reasoning e include_reasoning sugiere que el modelo puede exponer pasos de razonamiento intermedios cuando los solicitas, aunque la forma exacta de esa salida no se especifica aquí.

Esas capacidades apuntan a un conjunto bastante específico de tareas. La respuesta a preguntas visuales encaja en cualquier lugar donde un usuario necesite preguntar sobre el contenido de una foto o captura de pantalla y obtener una respuesta escrita. La generación de descripciones es adecuada para generar texto alternativo, descripciones de imágenes para catálogos o resúmenes de material visual. El OCR cubre la extracción de texto de imágenes, como escaneos, recibos o documentos fotografiados, y devolverlo como texto plano. El razonamiento visual va un paso más allá, para tareas donde la respuesta depende de combinar lo que es visible con una pregunta, como interpretar un gráfico o verificar si una imagen coincide con una afirmación. Debido a que la salida es solo texto, el modelo no es adecuado cuando necesitas imágenes generadas.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo "moondream/moondream3-preview". Cualquier cliente que hable el formato de chat completions de OpenAI debería funcionar; estableces el campo model a ese id y envías tu prompt de texto junto con cualquier imagen que quieras analizar. Ajusta el muestreo con temperature y top_p, limita la respuesta con max_tokens o max_completion_tokens, y habilita el razonamiento con los parámetros reasoning o include_reasoning si quieres que se muestre el razonamiento del modelo.

Ten en cuenta el contexto de 32,000 tokens y el límite de salida de 4,096 tokens al diseñar prompts: documentos largos más varias imágenes pueden llenar la ventana rápidamente, y las respuestas muy largas se truncarán. Si tu tarea es texto puro sin imágenes, o necesitas entrada de audio o video, o necesitas salida de imagen, un modelo diferente en api14 se ajustará mejor que este.