MoonshotAI: Kimi K2 Thinking

Kimi K2 Thinking은 Moonshot AI의 텍스트 모델이며, api14에서 moonshotai/kimi-k2-thinking으로 식별됩니다. K2 시리즈에 속하며, 제공업체는 이를 Moonshot AI의 가장 발전된 오픈 추론 모델이라고 설명하며, 이 시리즈를 에이전트형 장기 지평 추론으로 확장합니다. 이는 이전 K2 작업에서 도입된 1조 매개변수 Mixture-of-Experts 아키텍처를 기반으로 합니다. 제공업체 출시일은 2025년 11월 6일입니다.

이 모델은 텍스트 입력을 받고 텍스트 출력을 반환하므로, 이미지나 오디오와 관련된 작업보다는 언어 작업에 적합합니다. 컨텍스트 윈도우는 262,144 토큰으로, 긴 문서, 확장된 대화 기록 또는 상당한 규모의 코드베이스를 단일 요청에 담을 수 있을 만큼 충분히 큽니다. 최대 출력은 98,304 토큰이므로 응답 자체도 길 수 있으며, 이는 모델이 답변하기 전에 추론할 여유가 필요한 작업에서 중요합니다. 추론 모델이기 때문에 최종 답변과 함께 추론 콘텐츠를 생성할 수 있으며, 이 동작은 관련 요청 매개변수를 통해 제어할 수 있습니다.

이러한 기능은 상당히 특정한 용도 집합을 가리킵니다. 장기 지평 추론과 에이전트형 동작은 모델이 계획하고, 도구를 호출하며, 여러 턴에 걸쳐 목표를 향해 계속 작업해야 하는 다단계 작업에 적합합니다. 큰 컨텍스트 윈도우는 긴 보고서 분석, 대규모 diff 또는 코드 파일 검토, 긴 입력에서 구조화된 정보 요약 또는 추출에 도움이 됩니다. 도구 사용과 구조화된 출력은 모델이 함수를 호출하거나 정의된 형태로 데이터를 반환해야 하는 파이프라인 내에서 사용할 수 있게 하며, 추론 출력은 결과만 보는 것이 아니라 답변에 어떻게 도달했는지 검사하고 싶을 때 유용합니다.

api14의 OpenAI 호환 API를 통해 모델 id moonshotai/kimi-k2-thinking으로 호출합니다. 즉, 기존 OpenAI 클라이언트 라이브러리와 요청 형태가 base URL과 키만 변경하면 작동합니다. 지원되는 매개변수는 frequency_penalty, include_reasoning, logprobs, max_tokens, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs, top_p입니다. 실제로 이는 샘플링 제어, seed를 통한 결정성, 중지 조건, 도구 및 함수 호출, 구조화된 출력 형식, 추론 콘텐츠를 노출하거나 조정하는 옵션을 포함합니다. max_tokens는 98,304 출력 상한을 염두에 두고 설정하세요.

다른 모델이 더 적합할 수 있는 경우도 있습니다. 이는 텍스트 전용 모델이므로 이미지 또는 오디오 입력이 필요한 작업은 그 범위를 벗어납니다. 또한 매우 큰 컨텍스트 윈도우를 가진 추론 모델이므로, 더 작고 빠른 모델이면 충분한 단순하고 대량이거나 지연에 민감한 작업에는 항상 적합하지 않습니다. 작업이 짧고 단순하거나 멀티모달 입력이 필요하면 다른 곳을 찾으세요. 장기 컨텍스트 추론, 도구 사용 또는 구조화된 출력이 필요하면 이 모델이 적절한 선택입니다.