Moondream: Moondream 3 Preview

Moondream: Moondream 3 Preview is een vision-language model van Moondream, vermeld op api14 onder de hoofdcategorie tekst. Het is een mixture-of-experts model met 9B totale parameters en 2B actieve parameters, wat betekent dat slechts een deel van het netwerk wordt ingezet voor elke aanvraag. Het label "preview" in de naam geeft aan dat dit een vroege versie is van de derde Moondream-generatie en niet een definitieve release. Het staat in de tekstcategorie op api14, ook al accepteert het afbeeldingen, omdat de uitvoer altijd tekst is.

Het model accepteert tekst- en afbeeldingsinvoer en retourneert alleen tekst. Het contextvenster is 32.000 tokens en de maximale uitvoer is 4.096 tokens. Volgens Moondream verwerkt het visuele vraagbeantwoording, het genereren van bijschriften, OCR en visueel redeneren over afbeeldingen. Ondersteunde aanvraagparameters zijn include_reasoning, max_completion_tokens, max_tokens, reasoning, temperature en top_p. De aanwezigheid van reasoning en include_reasoning suggereert dat het model tussentijdse redeneerstappen kan tonen wanneer je daarom vraagt, hoewel de exacte vorm van die uitvoer hier niet is gespecificeerd.

Die mogelijkheden wijzen op een vrij specifieke set taken. Visuele vraagbeantwoording past overal waar een gebruiker vragen wil stellen over de inhoud van een foto of schermafbeelding en een geschreven antwoord wil krijgen. Bijschriften genereren is geschikt voor het maken van alt-tekst, afbeeldingsbeschrijvingen voor catalogi of samenvattingen van visueel materiaal. OCR omvat het extraheren van tekst uit afbeeldingen, zoals scans, bonnetjes of gefotografeerde documenten, en het retourneren als platte tekst. Visueel redeneren gaat een stap verder, voor taken waarbij het antwoord afhangt van het combineren van wat zichtbaar is met een vraag, zoals het interpreteren van een grafiek of controleren of een afbeelding overeenkomt met een bewering. Omdat de uitvoer alleen tekst is, is het model niet geschikt wanneer je gegenereerde afbeeldingen nodig hebt.

Je roept het aan via de OpenAI-compatibele API van api14 met het model-id "moondream/moondream3-preview". Elke client die het OpenAI chat completions-formaat ondersteunt zou moeten werken; je stelt het model-veld in op dat id en stuurt je tekstprompt samen met eventuele afbeeldingen die je wilt laten analyseren. Stem de sampling af met temperature en top_p, beperk het antwoord met max_tokens of max_completion_tokens, en schakel redeneren in met de parameters reasoning of include_reasoning als je de redenering van het model wilt laten tonen.

Houd de context van 32.000 tokens en de uitvoerlimiet van 4.096 tokens in gedachten bij het ontwerpen van prompts: lange documenten plus meerdere afbeeldingen kunnen het venster snel vullen, en zeer lange antwoorden worden afgekapt. Als je taak puur tekst is zonder afbeeldingen, of als je audio- of video-invoer nodig hebt, of als je afbeeldingsuitvoer nodig hebt, past een ander model op api14 beter dan dit.