Mistral: Voxtral Small 24B 2507 STT

Mistral: Voxtral Small 24B 2507 STT는 Mistral AI의 음성 전사 모델입니다. 전사 카테고리에 속하며, 이름에는 모델의 더 큰 24B 용량과 음성 대 텍스트 작업에 대한 초점이 모두 반영되어 있습니다. Mistral은 이 모델을 더 큰 모델 용량의 이점을 누리는 전사, 번역, 오디오 이해 워크로드에 적합하게 포지셔닝하므로, 오디오에 대해 최소한의 음성 대 텍스트 처리 이상을 필요로 하는 개발자를 대상으로 합니다.

이 모델은 입력 모달리티로 오디오를 받고 출력으로 전사를 반환합니다. 이것이 인터페이스의 전부입니다. 오디오를 보내면 텍스트를 돌려받습니다. 이 모델에는 컨텍스트 길이가 나열되어 있지 않고, 지원되는 요청 파라미터도 나열되어 있지 않으므로, 샘플링 제어로 조종할 수 있는 범용 채팅 모델이 아니라 집중된 단일 목적 엔드포인트로 취급해야 합니다. 세부 정보에는 최대 출력이 0으로 나열되어 있는데, 이는 별도로 광고되는 출력 토큰 예산이 없어 이를 기준으로 계획할 수 없다는 뜻입니다.

실용적인 용도는 오디오 입력, 전사 출력이라는 형태에서 바로 따라옵니다. 회의 및 통화 녹음을 검색, 검토 또는 보관용 텍스트로 변환할 수 있습니다. 음성 메모와 인터뷰를 대량으로 전사할 수 있습니다. 제공자 설명에 번역도 명시되어 있으므로, 말한 내용을 포착하는 것뿐 아니라 다른 언어로 표현하는 것이 목표인 경우에도 이 모델을 사용할 수 있습니다. 음성 자료의 내용을 추출해 후속 처리에 넘기는 것과 같은 오디오 이해 워크로드도 또 다른 적합한 용도입니다. 파이프라인에서 이후에 전사본을 요약하거나 분류할 텍스트 모델이 필요하다면, 그것은 별도의 모델을 사용하는 별도의 단계입니다.

모델 id "mistralai/voxtral-small-24b-2507-stt"를 사용해 api14의 OpenAI 호환 API를 통해 호출합니다. 엔드포인트가 OpenAI 형식을 따르므로, 기존 OpenAI 클라이언트 라이브러리를 api14로 지정하고 요청에 오디오를 보낸 다음 응답에서 전사를 읽을 수 있습니다. 이 모델에는 지원되는 파라미터가 나열되어 있지 않으므로, 모델을 선택하고 오디오를 제공하는 것 외에 조정할 것은 없습니다. 요청을 단순하게 유지하고 temperature, top_p 또는 이와 유사한 설정이 효과를 낼 것이라고 가정하지 마십시오.

컨텍스트 길이가 공개되어 있지 않고 파라미터도 노출되어 있지 않으므로, 이 모델은 많이 구성하는 대상이라기보다 전용 전사 구성 요소로 취급하는 것이 가장 좋습니다. 오디오와 함께 텍스트 프롬프트를 받는 모델이 필요하거나, 요청 파라미터를 통해 생성 동작을 제어할 수 있는 모델이 필요하다면, 카탈로그의 다른 모델이 더 적합할 수 있습니다. 단순한 음성 대 텍스트 및 음성 번역 작업에는 이 모델이 직접적인 선택입니다.