MoonshotAI: Kimi K3 (batch)

MoonshotAI: Kimi K3 (batch), Moonshot AI tarafından geliştirilen bir metin üretim modelidir ve api14 üzerinde moonshotai/kimi-k3:batch model id'si ile tanımlanır. Açık ağırlıklı ve 2,8 trilyon parametreli çok kipli bir akıl yürütme modelidir; hafif sohbet için değil, zorlu işler için tasarlanmıştır. Batch varyantı, api14 üzerinden çağırdığınız sürümdür ve sağlayıcının temel Kimi K3 sürümüyle aynı model kimliğini ve davranışını korur.

Model girdi olarak metin, görsel ve video kabul eder, çıktı olarak metin üretir. Bağlam penceresi 1.048.576 token'dır; bu, tek bir istekte tüm kod tabanlarını, uzun belge kümelerini veya uzun konuşma geçmişlerini tutacak kadar büyüktür. Maksimum çıktı uzunluğu yanıt başına 16.384 token'dır. Bir akıl yürütme modeli olduğu için, nihai yanıtı üretmeden önce üretim bütçesinin bir kısmını içsel akıl yürütmeye ayırabilir ve bu davranış reasoning ile reasoning_effort parametreleri üzerinden etkilenebilir.

Bu yetenekler birkaç pratik kullanıma işaret eder. Karmaşık kodlama görevleri, tam kaynağın bağlamda olması gereken büyük depolar üzerinde çalışmak dahil, iyi uyum sağlar. Uzun belgelerden ve raporlardan özetleme, karşılaştırma veya bilgi çıkarma gibi bilgi işi de bir diğer doğal kullanımdır; özellikle kaynak materyal metinle birlikte yorumlanması gereken görsel veya video içeriyorsa. Uzun ufuklu ajan tabanlı iş akışları da hedef kullanım senaryosudur; modelin birçok adım boyunca plan yaptığı, araçları çağırdığı ve uzun bir bağlam boyunca durumu takip ettiği durumlar buna örnektir.

Modeli api14'ün OpenAI uyumlu API'si üzerinden moonshotai/kimi-k3:batch model id'si ile çağırırsınız. İstek frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k ve top_p parametrelerini destekler. Araç çağırma ve yapılandırılmış çıktılar tools, tool_choice, response_format ve structured_outputs parametreleri üzerinden kullanılabilir; örnekleme temperature, top_p, top_k, min_p ve ceza parametreleriyle ayarlanabilir. Yeniden üretilebilir örnekleme için bir seed ayarlanabilir.

Çıktı tavanını aklınızda tutun: yanıtlar 16.384 token ile sınırlıdır, bu nedenle çok uzun tek bir yanıt gerektiren görevler işin çağrılar arasında bölünmesini gerektirebilir. Model ayrıca yalnızca metin çıktısı verir, bu nedenle herhangi bir görsel veya video girdisi üretilen bir medya çıktısı yerine metin üretmek için yorumlanır. Basit ve kısa metin görevleri için, 2,8T parametreli bir akıl yürütme modeli yerine daha küçük ve daha hızlı bir model daha ekonomik bir seçim olabilir.