Mistral: Mistral Small 3.2 24B

Mistral Small 3.2 24B to model językowy dostrojony do instrukcji od Mistral, wydany przez dostawcę 2025-06-20 pod identyfikatorem modelu mistralai/mistral-small-3.2-24b-instruct. Jest to model o 24B parametrów, a wydanie 3.2 jest aktualizacją wersji 3.1, zoptymalizowaną pod kątem realizacji instrukcji, redukcji powtórzeń i ulepszonego wywoływania funkcji. Należy do kategorii tekstowej, a jego data odcięcia wiedzy to 2023-10-31.

Model przyjmuje jako dane wejściowe zarówno tekst, jak i obrazy, a zwraca tekst, więc może obsługiwać multimodalne polecenia łączące pisemne instrukcje z treścią wizualną. Ma okno kontekstu wynoszące 256 000 tokenów, co pozwala przetworzyć długie dokumenty, rozbudowane rozmowy lub duże partie obrazów i tekstu w jednym żądaniu. Maksymalna długość odpowiedzi to 16 384 tokeny. Obsługiwane parametry żądania obejmują temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, structured_outputs, tools oraz tool_choice.

Te możliwości wskazują na kilka praktycznych zastosowań. Długi kontekst i wprowadzanie obrazów pasują do analizy dokumentów, gdzie deweloper wysyła zeskanowaną stronę lub zrzut ekranu wraz z pytaniami o ich zawartość. Ulepszone wywoływanie funkcji i obsługa narzędzi czynią go rozsądnym wyborem dla przepływów pracy w stylu agentów, które muszą wywoływać zewnętrzne funkcje lub interfejsy API. Ustrukturyzowane dane wyjściowe i response_format pomagają, gdy aplikacja potrzebuje JSON lub innego przewidywalnego kształtu zamiast dowolnego tekstu. Realizacja instrukcji i redukcja powtórzeń mają znaczenie dla asystentów czatu, streszczania i zadań ekstrakcji, gdzie ważna jest spójna frazeologia. Parametr seed wspiera powtarzalne próbkowanie na potrzeby testów.

Model wywołujesz przez zgodny z OpenAI interfejs API api14, używając identyfikatora modelu mistralai/mistral-small-3.2-24b-instruct. Ponieważ interfejs jest zgodny z formatem uzupełnień czatu OpenAI, wysyłasz żądanie z polem model ustawionym na ten identyfikator oraz tablicą messages zawierającą twoją treść tekstową i obrazową. Wymienione powyżej parametry żądania są obsługiwane, więc możesz ustawić kontrolę próbkowania, taką jak temperature, top_p, top_k i min_p, zastosować kary, ograniczyć długość odpowiedzi za pomocą max_tokens, ograniczyć generowanie za pomocą stop, response_format lub structured_outputs oraz dołączyć narzędzia z tool_choice do wywoływania funkcji. Dostępne są także opcje prawdopodobieństwa logarytmicznego (logprobs i top_logprobs) oraz logit_bias.

Przy podejmowaniu decyzji warto zauważyć dwa ograniczenia. Data odcięcia wiedzy to 2023-10-31, więc pytania o zdarzenia po tej dacie opierają się na informacjach dostarczonych w poleceniu, a nie na wiedzy własnej modelu. Odpowiedź jest ograniczona do 16 384 tokenów, co może być niewystarczające dla zadań wymagających bardzo długich generowanych dokumentów. Jeśli twoje obciążenie jest wyłącznie tekstowe albo potrzebujesz modelu z nowszą datą odcięcia, lepiej może pasować inny model.