Thinking Machines: Inkling Small

Thinking Machines: Inkling Smallは、Thinking Machines Labによるオープンウェイトのマルチモーダルmixture-of-expertsモデルです。総パラメータ数276Bのうち12Bがactiveパラメータで、Inklingファミリーの中ではより小型で効率の良いメンバーとして位置づけられています。プロバイダーのリリース日は2026-07-30です。ウェイトがオープンであるため、モデルを検査、セルフホスト、またはファインチューニングしたいチームにはその選択肢があり、インフラストラクチャを自分で運用したくない場合にはapi14上のホスト型エンドポイントを利用できます。

このモデルはテキスト、画像、音声の入力を受け付け、テキストを返します。コンテキストウィンドウは524288トークン、最大出力は262144トークンなので、非常に大きなドキュメント、長い録音、または画像セットをプロンプトと一緒に取り込み、それでも1回の呼び出しで長い応答を生成できます。mixture-of-experts設計により、トークンあたりで有効になるのは総パラメータの一部のみで、これがこの規模のモデルを妥当なレイテンシとスループットで提供できる主な理由です。推論の挙動はAPIを通じて公開されているため、最終回答の前にどれだけ内部的な熟考を行うかを決められます。

これらの機能は、かなり特定の用途群を示しています。ロングコンテキストの作業は明らかな適合先です。より小さなウィンドウには収まらない大規模なコードベース、契約書セット、研究コーパス、サポートチケット履歴の要約やクエリなどです。マルチモーダル入力により、埋め込み画像を含むスキャン文書から構造化データを抽出する、音声を文字起こししてから推論する、スクリーンショットと書面のブリーフについて質問に答えるなど、形式が混在するタスクに役立ちます。ツール呼び出しと推論のサポートは、モデルがどの関数を呼び出すかを決めてからその結果を説明する必要があるエージェント型ワークフローに適しています。

モデルid「thinkingmachines/inkling-small」を使用して、api14のOpenAI互換APIを通じて呼び出します。サポートされるリクエストパラメータは、frequency_penalty、include_reasoning、logit_bias、max_tokens、min_p、presence_penalty、reasoning、reasoning_effort、repetition_penalty、seed、stop、temperature、tool_choice、tools、top_k、top_pです。OpenAI chat completionsの形式に合わせて書かれたコードがすでにある場合、このモデルへの切り替えは主にmodel文字列を変更するだけで済み、推論出力が必要な場合はinclude_reasoningまたはreasoning_effortを設定します。

これはテキスト出力のモデルであるため、生成画像、音声、動画を必要とするものはここでは対象外です。262144トークンの出力上限は十分に大きいものの依然として有限であり、これは非常に長い生成ジョブで重要です。ワークロードが小さく、レイテンシに敏感で、純粋にテキストのみである場合、より軽量なモデルの方が実行コストが低くなる可能性があり、テキスト以外の出力モダリティが必要な場合は別のモデルが必要になります。