Mistral: Ministral 3 8B 2512 (batch)

Mistral: Ministral 3 8B 2512 (batch)는 Mistral의 텍스트 생성 모델이며 Ministral 3 제품군의 일부입니다. Mistral은 이 모델을 해당 제품군에서 균형 잡힌 모델로 설명합니다. 즉, 비전 기능을 갖춘 강력하고 효율적인 초소형 언어 모델입니다. api14에서의 모델 id는 mistralai/ministral-8b-2512:batch이며, batch 접미사는 이 변형이 동기 엔드포인트가 아닌 배치 엔드포인트를 통해 제공된다는 것을 나타내며, 이는 각 호출을 기다리기보다 작업을 제출하고 결과를 수집하는 워크로드에 적합합니다.

이 모델은 텍스트와 이미지 입력을 받아 텍스트 출력을 생성하므로, 일반 언어 작업과 이미지가 포함된 프롬프트를 모두 처리할 수 있습니다. 컨텍스트 윈도우는 262144 토큰이고 최대 출력은 209715 토큰입니다. 큰 컨텍스트와 큰 출력 예산의 조합은 긴 문서나 긴 이미지+텍스트 프롬프트를 입력하면서도 상당한 생성 응답을 위한 여유를 남길 수 있음을 의미합니다. 지원되는 요청 파라미터에는 temperature, top_p, frequency_penalty, presence_penalty, max_tokens, stop, seed, response_format, structured_outputs, tool_choice 및 tools가 포함됩니다.

이러한 기능은 몇 가지 실용적인 용도를 시사합니다. 긴 문서 요약이나 추출 같은 장문 컨텍스트 텍스트 작업은 262144 토큰 윈도우에 적합합니다. 이미지가 입력으로 허용되므로 이미지 설명, 스크린샷에 대한 질문 답변, 스캔한 페이지에서 텍스트와 구조 추출 같은 작업도 범위에 포함됩니다. 도구 호출과 구조화된 출력은 모델이 JSON을 반환하거나 함수를 호출해야 하는 파이프라인에 사용할 수 있게 해주며, seed 파라미터는 실행 간 재현 가능한 결과를 원할 때 도움이 됩니다.

api14를 통해 호출하려면 모델 id mistralai/ministral-8b-2512:batch와 함께 OpenAI 호환 chat completions 인터페이스를 사용하세요. 일반적인 chat 요청 필드와 위에 나열된 파라미터를 함께 전달할 수 있습니다. 즉, temperature, top_p, frequency_penalty, presence_penalty, max_tokens, stop, seed, response_format, structured_outputs, tool_choice 및 tools입니다. 이는 batch 변형이므로 즉각적인 응답이 아니라 비동기 제출과 검색을 계획하고, 현재 요금은 페이지의 실시간 가격표에서 확인하세요.

주목할 만한 한 가지 제한은 출력 모달리티입니다. 이 모델은 이미지를 읽지만 텍스트만 반환하므로 생성 이미지가 필요할 때는 적합하지 않습니다. 작업이 순전히 텍스트이고 비전이나 매우 큰 컨텍스트 윈도우가 필요하지 않다면, 더 작거나 batch가 아닌 모델이 더 빠르게 응답하고 운영 오버헤드도 더 적을 수 있습니다.