Moondream: Moondream 3.1

Moondream: Moondream 3.1 är en vision-language-modell från Moondream, samma team bakom de tidigare Moondream-utgåvorna. Den är efterföljaren till Moondream 3 Preview, och den använder en mixture-of-experts-design med 9B totala parametrar och 2B aktiva parametrar. Den kombinationen innebär att modellen har en stor övergripande kapacitet samtidigt som den bara aktiverar en mindre del av den per begäran, vilket är ett vanligt sätt att hålla inferensen effektiv utan att krympa modellens kunskap. Den ligger i textkategorin på api14, men dess utmärkande drag är att den läser bilder lika väl som text.

På indatasidan accepterar Moondream 3.1 både text och bilder, och den producerar endast text. Dess kontextfönster är 32 000 tokens, och den maximala utdatalängden är 4 096 tokens. Leverantören beskriver modellen som täckande visuell frågebesvarande, bildtextning och OCR, bland andra uppgifter. Det är kärnbeteendena inom vision-language: att svara på frågor om vad som finns i en bild, generera en skriftlig beskrivning av en bild, och extrahera text som förekommer inuti en bild. Eftersom kontextfönstret delas mellan bildindata och textprompten, lämnar större eller fler bilder mindre utrymme för instruktioner och konversationshistorik.

De praktiska användningsfallen följer direkt av dessa förmågor. Visuell frågebesvarande passar interaktiva verktyg där en användare laddar upp ett foto eller en skärmbild och ställer frågor om dess innehåll. Bildtextning passar pipelines som behöver alt-text, mediebeskrivningar eller korta sammanfattningar av bildresurser. OCR är användbart för att plocka ut text ur skanningar, skärmbilder, formulär eller fotografier av dokument, och för att mata in den texten i senare steg. Eftersom modellen också tar vanlig text kan den hantera en blandad prompt där instruktionen och bilden anländer tillsammans, vilket håller integrationen enkel för arbetsflöden för dokument- och bildgranskning.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t "moondream/moondream3.1-9b-a2b". De stödda begäransparametrarna är include_reasoning, max_completion_tokens, max_tokens, reasoning, temperature och top_p. Temperature och top_p styr sampling, medan token-parametrarna begränsar längden på det genererade svaret. Parametrarna reasoning och include_reasoning relaterar till att exponera modellens resonemangsbeteende, så kontrollera hur din klient hanterar dem om du inte behöver den utdatan. Eftersom gränssnittet är OpenAI-kompatibelt fungerar befintliga SDK:er och chattliknande begäransformat i allmänhet utan ändringar utöver modell-id:t och bildinnehållet i meddelandet.

Tänk på begränsningarna när du väljer den här modellen. Kontexten på 32 000 tokens och taket på 4 096 tokens för utdata är de hårda gränserna, så mycket långa dokument eller långa fleromgångs-bildkonversationer kan behöva delas upp eller trimmas. Utdatan är endast text, så den genererar eller redigerar inte bilder. Om din uppgift är helt textbaserad och inte involverar bilder kan en text-only-modell vara en enklare lösning; Moondream 3.1 är mest värdefull när begäran faktiskt innehåller en bild att tolka.