Mistral: Ministral 3 8B 2512 (batch)

Mistral: Ministral 3 8B 2512 (batch) to model generowania tekstu od Mistral, należący do rodziny Ministral 3. Mistral opisuje go jako zrównoważony model w tej rodzinie: wydajny, a jednocześnie mocny, niewielki model językowy z możliwościami wizyjnymi. Identyfikator modelu w api14 to mistralai/ministral-8b-2512:batch, a sufiks batch wskazuje, że ten wariant jest obsługiwany przez punkt końcowy wsadowy, a nie synchroniczny, co pasuje do zadań, w których przesyłasz pracę i zbierasz wyniki, zamiast czekać na każde wywołanie.

Model przyjmuje dane wejściowe w postaci tekstu i obrazów, a zwraca tekst, więc radzi sobie zarówno z zadaniami czysto językowymi, jak i z promptami zawierającymi obrazy. Jego okno kontekstu wynosi 262144 tokenów, a maksymalna długość odpowiedzi to 209715 tokenów. To połączenie dużego kontekstu i dużego limitu odpowiedzi oznacza, że możesz wprowadzić długie dokumenty lub długie prompty zawierające obraz i tekst, a mimo to pozostawić miejsce na obszerną wygenerowaną odpowiedź. Obsługiwane parametry żądania obejmują temperature, top_p, frequency_penalty, presence_penalty, max_tokens, stop, seed, response_format, structured_outputs, tool_choice oraz tools.

Te możliwości wskazują na kilka praktycznych zastosowań. Praca z tekstem w długim kontekście, taka jak streszczanie lub wyodrębnianie informacji z obszernych dokumentów, mieści się w oknie 262144 tokenów. Ponieważ obrazy są przyjmowane jako dane wejściowe, zadania takie jak opisywanie obrazu, odpowiadanie na pytania dotyczące zrzutu ekranu czy wyodrębnianie tekstu i struktury ze zeskanowanej strony są w zakresie możliwości modelu. Wywoływanie narzędzi i ustrukturyzowane dane wyjściowe czynią go użytecznym w potokach przetwarzania, które wymagają, aby model zwracał JSON lub wywoływał funkcje, a parametr seed pomaga, gdy chcesz uzyskać powtarzalne wyniki między uruchomieniami.

Aby wywołać go przez api14, użyj interfejsu chat completions zgodnego z OpenAI z identyfikatorem modelu mistralai/ministral-8b-2512:batch. Możesz przekazać zwykłe pola żądania czatu wraz z parametrami wymienionymi powyżej: temperature, top_p, frequency_penalty, presence_penalty, max_tokens, stop, seed, response_format, structured_outputs, tool_choice oraz tools. Ponieważ jest to wariant wsadowy, zaplanuj asynchroniczne przesyłanie i pobieranie wyników, a nie natychmiastowe odpowiedzi, i sprawdź aktualną tabelę cen na stronie, aby poznać bieżące stawki.

Jednym ograniczeniem wartym uwagi jest modalność wyjścia: model czyta obrazy, ale zwraca wyłącznie tekst, więc nie nadaje się, jeśli potrzebujesz generowanych obrazów. Jeśli Twoje zadanie jest czysto tekstowe i nie wymaga wizji ani bardzo dużego okna kontekstu, mniejszy model lub model niewsadowy może odpowiadać szybciej i przy mniejszym obciążeniu operacyjnym.