Mistral: Mistral Small 3.1 24B

Mistral Small 3.1 24B Instruct to model generowania tekstu od Mistral, udostępniony przez dostawcę 17 marca 2025. Jest to ulepszony wariant Mistral Small 3 (2501) i ma 24 miliardy parametrów. W api14 należy do kategorii tekstowej, a identyfikator modelu używany podczas wywołania to mistralai/mistral-small-3.1-24b-instruct.

Model przyjmuje jako dane wejściowe tekst i obrazy, a zwraca tekst. Jego okno kontekstowe wynosi 128 000 tokenów, a maksymalna długość odpowiedzi to 102 400 tokenów, więc długie dokumenty i długie generowania mieszczą się wygodnie w jednym żądaniu. Granica wiedzy to 31 października 2023. Wejście multimodalne oznacza, że można przekazywać obrazy razem z promptami tekstowymi, co jest przydatne, gdy zadanie zależy od informacji istniejących tylko na zrzucie ekranu, diagramie lub zeskanowanej stronie.

Ponieważ obsługuje zarówno tekst, jak i obrazy w dużym kontekście, model nadaje się do zadań rozumienia dokumentów i obrazów: streszczania długich raportów, wyodrębniania danych strukturalnych ze zeskanowanych formularzy lub zrzutów ekranu, odpowiadania na pytania oparte na dostarczonym dokumencie oraz przepływów pracy obsługujących mieszany tekst i obrazy. Kontekst 128k sprawia też, że jest rozsądny dla pytań na poziomie całego repozytorium kodu, długich historii rozmów i analizy wsadowej, gdy chcesz wysłać dużo materiału w jednym wywołaniu. Obsługa wywoływania narzędzi i funkcji rozszerza to na potoki w stylu agentowym, które muszą pobierać dane lub wyzwalać akcje.

Model wywołujesz przez API zgodne z OpenAI w api14, używając identyfikatora modelu mistralai/mistral-small-3.1-24b-instruct, co oznacza, że istniejące zestawy SDK i klienty OpenAI działają po zmianie tylko bazowego adresu URL i klucza. Obsługiwane parametry żądania to frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs i top_p. Ustrukturyzowane wyjścia i kontrolki próbkowania są przydatne, gdy potrzebujesz przewidywalnego JSON lub ściśle ograniczonych generowań, a seed pomaga w odtwarzalności podczas testowania.

Dwie granice warto zauważyć przed podjęciem decyzji. Granica wiedzy to 31 października 2023, więc wszystko po tej dacie musi pochodzić z twojego promptu lub z narzędzi, a nie z własnej wiedzy modelu. Wyjście jest tylko tekstowe, więc jeśli potrzebujesz generowanych obrazów lub dźwięku, ten model nie jest właściwym wyborem. W przypadku zadań czysto tekstowych i mieszczących się w mniejszym kontekście lżejszy model może być tańszy i szybszy, ale dla wejścia multimodalnego przy 128k tokenów ten model obejmuje szeroki zakres pracy.