Moondream: Moondream 3.1

Moondream: Moondream 3.1 es un modelo de lenguaje visual de Moondream, el mismo equipo detrás de las versiones anteriores de Moondream. Es el sucesor de Moondream 3 Preview, y utiliza un diseño de mezcla de expertos con 9B parámetros totales y 2B parámetros activos. Esa combinación significa que el modelo tiene una gran capacidad general mientras solo activa una porción más pequeña de ella por solicitud, lo cual es una forma común de mantener la inferencia eficiente sin reducir el conocimiento del modelo. Se ubica en la categoría de texto en api14, pero su rasgo definitorio es que lee imágenes además de texto.

En el lado de la entrada, Moondream 3.1 acepta tanto texto como imágenes, y produce solo texto. Su ventana de contexto es de 32,000 tokens, y la longitud máxima de salida es de 4,096 tokens. El proveedor describe el modelo como abarcando respuesta a preguntas visuales, generación de descripciones y OCR, entre otras tareas. Esos son los comportamientos centrales de lenguaje visual: responder preguntas sobre lo que hay en una imagen, generar una descripción escrita de una imagen y extraer texto que aparece dentro de una imagen. Debido a que la ventana de contexto se comparte entre la entrada de imagen y el mensaje de texto, imágenes más grandes o más numerosas dejan menos espacio para instrucciones e historial de conversación.

Los casos de uso prácticos se derivan directamente de esas capacidades. La respuesta a preguntas visuales se adapta a herramientas interactivas donde un usuario sube una foto o captura de pantalla y pregunta sobre su contenido. La generación de descripciones encaja en flujos de trabajo que necesitan texto alternativo, descripciones de medios o resúmenes breves de recursos de imagen. El OCR es útil para extraer texto de escaneos, capturas de pantalla, formularios o fotografías de documentos, y para alimentar ese texto a pasos posteriores. Debido a que el modelo también acepta texto ordinario, puede manejar un mensaje mixto donde la instrucción y la imagen llegan juntas, lo que mantiene simple la integración para flujos de trabajo de revisión de documentos e imágenes.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo "moondream/moondream3.1-9b-a2b". Los parámetros de solicitud admitidos son include_reasoning, max_completion_tokens, max_tokens, reasoning, temperature y top_p. Temperature y top_p controlan el muestreo, mientras que los parámetros de tokens limitan la longitud de la respuesta generada. Los parámetros reasoning e include_reasoning se relacionan con exponer el comportamiento de razonamiento del modelo, así que revisa cómo los maneja tu cliente si no necesitas esa salida. Dado que la interfaz es compatible con OpenAI, los SDK existentes y las formas de solicitud estilo chat generalmente funcionan sin cambios más allá del id de modelo y el contenido de imagen en el mensaje.

Ten en cuenta los límites al elegir este modelo. El contexto de 32,000 tokens y el techo de salida de 4,096 tokens son los límites estrictos, por lo que documentos muy largos o conversaciones largas de múltiples turnos con imágenes pueden necesitar fragmentación o recorte. La salida es solo texto, por lo que no generará ni editará imágenes. Si tu tarea es puramente texto y no involucra imágenes, un modelo solo de texto puede ser una opción más simple; Moondream 3.1 es más valioso cuando la solicitud realmente contiene una imagen para interpretar.