Thinking Machines: Inkling

Thinking Machines: Inkling は、Thinking Machines Lab によるオープンウェイトのマルチモーダルな mixture-of-experts モデルです。975B の総パラメータのうち 41B がアクティブパラメータで、汎用推論、コーディング、エージェント型およびツール利用システム向けに設計されています。api14 ではモデル id thinkingmachines/inkling の下に掲載されており、text カテゴリに属します。

このモデルはテキスト、画像、音声を入力として受け取り、テキストを出力として生成するため、テキストだけでなく複合メディアのプロンプトをまたいで動作できます。コンテキストウィンドウは 524,288 トークンで、最大出力は 471,859 トークンです。長い入力ウィンドウと大きな出力予算のこの組み合わせにより、大量の資料を読み込み、相当量のテキストを 1 回のリクエストで書き戻す必要があるタスクに適しています。

実用的な用途はこれらの能力から導かれます。長い文書、大規模なコードベース、長大な文字起こしを重いチャンク分割なしに渡すことができ、これはコード生成とレビュー、長いソース資料に対する多段階推論、そして大量の状態をコンテキスト内に保持する必要があるエージェント型またはツール利用システムに役立ちます。画像と音声をテキストと一緒に提供できるため、同じモデルがスクリーンショットや録音と書面による指示を混在させたプロンプトを処理し、テキストの回答を返すことができます。reasoning パラメータと tool パラメータも、モデルが計画し、ツールを呼び出し、結果を報告するワークフローを示しています。

これは api14 の OpenAI 互換 API を通じて、モデル id thinkingmachines/inkling を使用して呼び出します。サポートされているリクエストパラメータは frequency_penalty、include_reasoning、logit_bias、max_tokens、min_p、presence_penalty、reasoning、reasoning_effort、repetition_penalty、seed、stop、temperature、tool_choice、tools、top_k、top_p です。ツール利用は tools と tool_choice で、出力長は max_tokens で、サンプリング動作は temperature、top_p、top_k、min_p およびペナルティ系パラメータで、推論動作は reasoning、reasoning_effort、include_reasoning で設定します。seed は再現可能なサンプリングのために設定でき、stop シーケンスを指定して任意の位置で生成を終了できます。

覚えておくべき主な制約は、出力がテキストのみであるため、画像や音声の生成を必要とするタスクはその範囲外であることです。ワークロードが純粋にテキストのみで、マルチモーダル入力や長いコンテキストを必要としない場合は、より小さなテキスト専用モデルの方が単純に適合するかもしれません。複合メディアのプロンプト、非常に長い入力、またはツール駆動型エージェントには、ここで利用可能なモデルの中では Inkling が適切な選択です。