Mistral: Mistral Medium 3.5 (batch)

Mistral Medium 3.5 (batch) är en textgenereringsmodell från Mistral AI, identifierad på api14 som mistralai/mistral-medium-3-5:batch. Det är en dense 128B instruktionsföljande modell, vilket innebär att alla dess parametrar är aktiva vid varje begäran i stället för att dirigeras genom en mixture-of-experts-konfiguration. Batch-varianten är den version som exponeras via denna endpoint, och modellen tillhör textkategorin på api14.

Modellen accepterar text-, bild- och filindata, och returnerar endast text. Dess kontextfönster är 262 144 tokens, och den maximala utdatalängden är 209 715 tokens, så den kan ta emot mycket stora indata och producera långa svar i ett enda anrop. Eftersom bilder och filer accepteras tillsammans med text kan du skicka blandade prompter som kombinerar skriftliga instruktioner med visuellt eller dokumentärt innehåll, och modellen resonerar över allt detta innan den genererar sitt svar.

Dessa funktioner pekar mot några praktiska användningsområden. Det stora kontextfönstret passar för arbete med långa dokument, kodbaser eller indata från flera filer där du annars skulle behöva dela upp och sammanfoga resultat. Bildindata gör den lämplig för uppgifter som blandar skärmbilder, diagram eller skannade sidor med textinstruktioner. Mistral beskriver modellen som utformad för agentiska arbetsflöden, kodning och komplexa uppgifter, så verktygsanrop och strukturerad generering är rimliga utgångspunkter. Batch-varianten är ett naturligt val för offline- eller genomströmmingsorienterade jobb där du skickar in många begäranden och samlar in resultaten, snarare än för interaktiv chatt där latens spelar störst roll.

Du anropar modellen via api14:s OpenAI-kompatibla API med modell-id:t mistralai/mistral-medium-3-5:batch. Endpointen stöder frequency_penalty, include_reasoning, max_tokens, presence_penalty, reasoning, reasoning_effort, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools och top_p. I praktiken innebär det att du kan styra sampling med temperature, top_p och de två straffparametrarna, begränsa utdata med max_tokens, fixera slumpmässighet med seed och definiera stoppsekvenser. För strukturerat arbete låter response_format och structured_outputs dig begränsa svarets form, medan tools och tool_choice stöder funktionsanrop, och resonemangsparametrarna låter dig justera hur mycket internt resonemang modellen exponerar eller utför.

En sak att väga in är batch-beteckningen. Om din applikation behöver svar med låg latens, tur för tur, är en icke-batch-modell sannolikt ett bättre val, och samma sak gäller om du bara behöver textindata och textutdata, eftersom bild- och filmodaliteterna då skulle förbli oanvända. Kontextfönstret på 262 144 tokens och utdatataket på 209 715 tokens är generösa, men de är fortfarande ändliga, så extremt stora korpusar kan behöva delas upp över flera anrop. Inom dessa gränser täcker modellen långkontextligt textarbete, multimodala prompter, kodning och verktygsdrivna agentflöden från en enda endpoint.