Mistral: Mistral Small 3.2 24B

Mistral Small 3.2 24B는 Mistral의 instruction-tuned 언어 모델로, 제공자가 2025-06-20에 모델 id mistralai/mistral-small-3.2-24b-instruct로 공개했습니다. 24B 파라미터 모델이며, 이 3.2 릴리스는 3.1 버전의 업데이트로, instruction following, repetition reduction, 개선된 function calling에 최적화되어 있습니다. 텍스트 카테고리에 속하며, 지식 컷오프는 2023-10-31입니다.

이 모델은 텍스트와 이미지를 모두 입력으로 받고 텍스트를 출력으로 생성하므로, 작성된 지시와 시각적 콘텐츠를 결합한 멀티모달 프롬프트를 처리할 수 있습니다. 컨텍스트 윈도우는 256,000 토큰으로, 긴 문서, 확장된 대화, 또는 큰 이미지와 텍스트 페이로드를 단일 요청에서 처리할 수 있습니다. 최대 출력 길이는 16,384 토큰입니다. 지원되는 요청 파라미터에는 temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice가 포함됩니다.

이러한 기능은 몇 가지 실용적인 용도를 시사합니다. 긴 컨텍스트와 이미지 입력은 문서 분석에 적합하며, 개발자가 스캔한 페이지나 스크린샷을 그 내용에 대한 질문과 함께 보낼 수 있습니다. 개선된 function calling과 도구 지원은 외부 함수나 API를 호출해야 하는 에이전트 스타일 워크플로에 합리적인 선택이 되게 합니다. Structured outputs와 response_format은 애플리케이션이 자유 텍스트 대신 JSON이나 다른 예측 가능한 형태를 필요로 할 때 도움이 됩니다. Instruction following과 repetition reduction은 일관된 표현이 중요한 채팅 어시스턴트, 요약, 추출 작업에서 중요합니다. seed 파라미터는 테스트를 위한 재현 가능한 샘플링을 지원합니다.

모델 id mistralai/mistral-small-3.2-24b-instruct를 사용하여 api14의 OpenAI 호환 API를 통해 모델을 호출합니다. 인터페이스가 OpenAI chat completions 형식을 따르므로, model 필드를 해당 id로 설정하고 텍스트와 이미지 콘텐츠를 담은 messages 배열과 함께 요청을 보냅니다. 위에 나열된 요청 파라미터가 지원되므로, temperature, top_p, top_k, min_p 같은 샘플링 제어를 설정하고, 페널티를 적용하고, max_tokens로 출력을 제한하고, stop, response_format, structured_outputs로 생성을 제약하고, function calling을 위해 tool_choice와 함께 tools를 첨부할 수 있습니다. 로그 확률 옵션(logprobs와 top_logprobs)과 logit_bias도 사용할 수 있습니다.

결정할 때 주의할 두 가지 제한이 있습니다. 지식 컷오프는 2023-10-31이므로, 그 날짜 이후의 사건에 대한 질문은 모델 자체 지식이 아니라 프롬프트에 제공한 정보에 의존합니다. 출력은 16,384 토큰으로 제한되며, 매우 긴 생성 문서가 필요한 작업에는 빠듯할 수 있습니다. 워크로드가 텍스트 전용이거나 더 최근 컷오프를 가진 모델이 필요하다면, 다른 모델이 더 적합할 수 있습니다.