Mistral: Voxtral Small 24B 2507

Mistral: Voxtral Small 24B 2507은 Mistral의 모델로, 제공자가 2025-10-30에 출시했습니다. 텍스트 카테고리에 속하며 Mistral Small 3의 개선판으로 만들어졌고, 오디오 입력 기능을 추가하면서도 이전 모델의 텍스트 성능을 유지합니다. Mistral Small 3을 이미 알고 있다면, Voxtral Small을 이해하는 유용한 방식은 텍스트 동작을 유지하면서 모델이 입력으로 받아들일 수 있는 범위를 확장한 것이라고 생각하는 것입니다.

입력과 출력에 관해, 이 모델은 텍스트, 오디오, 파일을 받아들이고 텍스트만 생성합니다. 컨텍스트 윈도우는 32768 토큰이고, 최대 출력은 26214 토큰입니다. 제공자에 따르면 이 모델은 음성 전사, 번역, 오디오 이해에 뛰어나며, 이는 오디오가 덧붙여진 추가 기능이 아니라 텍스트와 나란히 있는 일급 입력 경로라는 뜻입니다. 32k 컨텍스트와 큰 출력 상한의 조합은 회의 녹음과 지시 사항처럼 입력이 긴 작업에서 답변이 충분한 여유를 가질 수 있어 실용적입니다.

이러한 기능은 상당히 구체적인 사용 사례 집합을 가리킵니다. 음성 전사는 명백한 사례로, 녹음을 문서 기록으로 바꾸거나 음성 콘텐츠를 텍스트 파이프라인에 넣을 때 쓰입니다. 번역은 같은 오디오 이해에서 이어지며, 예를 들어 한 언어의 음성을 다른 언어의 텍스트로 변환하는 것입니다. 오디오 이해는 더 넓은 사례를 포괄합니다. 통화 요약, 녹음에서 실행 항목 추출, 발언 내용에 대한 질문 응답 등입니다. 텍스트 입력도 여전히 지원되고 모델이 강력한 텍스트 성능을 유지하므로, 하나의 요청에서 양식을 섞어 전사본이나 문서를 오디오와 함께 전달하고 결합된 결과를 요청할 수도 있습니다.

이 모델은 모델 id "mistralai/voxtral-small-24b-2507"을 사용해 api14의 OpenAI 호환 API를 통해 호출합니다. 지원되는 요청 파라미터는 frequency_penalty, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_p입니다. 도구 호출과 구조화된 출력이 모두 제공되므로, 모델을 에이전트 루프에 연결하거나 출력이 다른 시스템으로 들어갈 때 JSON 형태의 응답을 강제할 수 있습니다. 샘플링 제어(temperature, top_p, 두 가지 페널티, seed, stop)는 OpenAI 호환 엔드포인트에서 기대하는 대로 동작합니다.

염두에 둘 주요 제약은 출력 양식입니다. 이 모델은 오디오가 아니라 텍스트를 반환하므로 음성 합성 옵션은 아닙니다. 32768 토큰의 컨텍스트 윈도우도 적당한 수준이라, 매우 긴 문서나 여러 시간 분량의 녹음은 들어맞기 전에 청킹이 필요할 수 있습니다. 작업이 순전히 텍스트이고 오디오 입력의 이점이 없다면 텍스트 전용 모델이 더 단순한 선택일 수 있습니다. 오디오 입력과 텍스트 출력이 필요하다면, 이 모델은 바로 그 용도를 겨냥하고 있습니다.