MoonshotAI: Kimi K2 0905

Kimi K2 0905는 Moonshot AI의 텍스트 생성 모델로, 2025년 9월 4일 Kimi K2 0711의 9월 업데이트로 출시되었습니다. 이 모델은 총 1조 개의 파라미터를 가진 대규모 Mixture-of-Experts (MoE) 언어 모델이며, api14에서 텍스트 카테고리에 속합니다. 텍스트 파이프라인용 범용 언어 모델을 선택하는 경우, 여기에서 평가하게 될 모델 패밀리와 제공자입니다.

이 모델은 텍스트를 입력으로 받아 텍스트를 출력으로 반환하므로, 멀티모달 작업보다는 표준 프롬프트 및 완성 워크플로에 적합합니다. 컨텍스트 윈도우는 262,144 토큰으로, 단일 요청에 긴 문서, 확장된 대화 또는 상당한 크기의 코드 파일을 담을 수 있을 만큼 충분히 큽니다. 최대 출력은 98,304 토큰이므로 해당 윈도우 내에서 긴 생성이 가능합니다. 지식 컷오프는 2024년 12월 31일이며, 이 날짜 이후의 사건이나 릴리스에 관한 질문에는 이 점을 염두에 두어야 합니다.

이러한 기능은 몇 가지 실용적인 용도를 시사합니다. 긴 컨텍스트는 긴 문서, 계약서 또는 연구 자료에 대한 요약 및 질의응답에 적합하며, 여러 파일을 함께 고려해야 하는 리포지토리 규모의 코드 지원도 뒷받침합니다. 이 모델은 도구와 구조화된 출력을 지원하므로, 함수 호출과 스키마를 준수하는 응답 생성에 사용할 수 있으며, 이는 추출 및 에이전트 스타일 워크플로에 유용합니다. 큰 출력 허용량은 작업에 긴 초안, 상세한 보고서 또는 하나의 응답에서 확장된 추론 체인이 필요할 때 도움이 됩니다.

모델 id "moonshotai/kimi-k2-0905"를 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 지원되는 요청 파라미터는 frequency_penalty, max_tokens, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k 및 top_p입니다. 이 집합은 샘플링 제어, seed를 통한 결정성, 중지 조건, 구조화된 출력 및 도구 사용을 포함하므로, 대부분의 OpenAI 스타일 클라이언트 코드는 모델 id만 변경하면 작동합니다.

한 가지 주의할 제한은 입력과 출력이 텍스트 전용이라는 점이므로, 작업이 이미지나 오디오에 의존한다면 다른 모델이 필요합니다. 2024년 12월 31일의 지식 컷오프는 또한 프롬프트에서 해당 컨텍스트를 제공하지 않는 한 모델이 이후 사건을 내장적으로 인식하지 못한다는 것을 의미합니다. 더 작거나 빠른 모델로 충분한 워크로드의 경우, 이 모델은 작업에 필요한 것보다 과할 수 있지만, 도구 호출을 수반하는 긴 컨텍스트 텍스트 작업에는 합리적인 후보입니다.