Xiaomi: MiMo-V2.6-Flash

MiMo-V2.6-Flash는 Xiaomi의 오픈소스 파운데이션 모델로, api14에 모델 id xiaomi/mimo-v2.6-flash로 등록되어 있습니다. 텍스트 카테고리에 속하며, 총 309B 파라미터와 토큰당 15B 활성화 파라미터를 가진 Mixture-of-Experts 아키텍처를 기반으로 하며 하이브리드 어텐션 메커니즘을 사용합니다. Xiaomi는 이를 좁은 작업 특화 시스템이 아니라 파운데이션 모델로 위치시키므로, 광범위한 언어 작업을 위한 범용 기반으로 사용되도록 의도되었습니다.

이 모델은 텍스트, 이미지, 비디오, 오디오를 입력으로 받고 텍스트를 출력으로 생성합니다. 컨텍스트 윈도우는 1,050,000 토큰이고 최대 출력 길이는 131,072 토큰입니다. 이처럼 매우 큰 컨텍스트와 멀티모달 입력의 조합은 단일 요청이 긴 문서와 이미지, 비디오 또는 오디오를 함께 담고도 상당한 텍스트 응답을 반환할 수 있음을 의미합니다. 지원되는 요청 파라미터에는 temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning, include_reasoning이 있습니다.

이러한 기능은 몇 가지 실용적인 활용 패턴을 시사합니다. 대규모 문서 집합, 코드베이스 또는 트랜스크립트를 요약하거나 질의하는 장문 컨텍스트 작업은 자연스럽게 맞습니다. 윈도우가 그렇지 않으면 청킹이 필요했을 자료를 담을 만큼 충분히 크기 때문입니다. 이미지, 비디오, 오디오를 입력으로 제공할 수 있으므로 미디어 설명, 스크린샷이나 스캔한 페이지에서 정보 추출, 녹화된 자료에 대한 질의응답 같은 작업에 사용할 수 있으며 답변은 텍스트로 반환됩니다. 도구 호출과 구조화된 출력은 모델이 함수를 호출하거나 다운스트림 코드가 파싱할 수 있는 JSON을 내보내야 하는 파이프라인에 적합하게 해주며, reasoning과 include_reasoning 파라미터는 그것이 유용한 경우 중간 추론을 요청하거나 검사할 방법을 제공합니다.

api14를 통해 호출하는 방식은 다른 OpenAI 호환 모델과 동일합니다. chat completions 엔드포인트로 요청을 보내면서 model 필드를 xiaomi/mimo-v2.6-flash로 설정하고, 이미지, 비디오 또는 오디오 입력을 위한 멀티모달 콘텐츠 파트를 포함해 일반적인 OpenAI 형식으로 메시지를 전달하면 됩니다. 위에 나열된 파라미터는 요청 본문에 설정할 수 있습니다. temperature, top_p, top_k, min_p 같은 샘플링 제어는 생성을 조정하고, max_tokens는 출력을 제한하며, tools, tool_choice, response_format, structured_outputs는 함수 호출과 구조화된 응답을 담당합니다. 스트리밍과 표준 OpenAI 클라이언트 라이브러리는 호환 인터페이스에 대해 예상대로 작동할 것입니다.

한 가지 유념할 점은 출력이 텍스트 전용이라는 것이므로, 이 모델은 그 대가로 이미지, 비디오 또는 오디오를 생성할 수 없습니다. 작업이 미디어를 설명하거나 추론하는 것이 아니라 미디어를 생성해야 한다면 다른 모델이 필요합니다. 또한 큰 컨텍스트와 131,072 토큰 출력 상한은 요청이 무거워질 수 있음을 의미하므로, 짧고 단순한 프롬프트에는 더 작은 모델이 더 적절한 선택일 수 있습니다.