LiquidAI: LFM2.5-24B-A2B

LiquidAI: LFM2.5-24B-A2B は LiquidAI のテキストモデルです。総パラメータ数 24B、アクティブパラメータ数 2.45B の mixture-of-experts 推論モデルです。プロバイダーは、回答前に常に推論を行い、ツールを呼び出すエージェント向けに構築されていると説明しています。テキストカテゴリに属するため、テキストを入力として受け取り、テキストを出力します。

このモデルはテキスト入力を受け取りテキスト出力を生成し、コンテキストウィンドウは 128,000 トークン、最大出力は 8,192 トークンです。推論モデルであるため、回答を生成する前に推論を進め、include_reasoning パラメータと reasoning パラメータによって、その推論をレスポンス内でどのように扱うかを制御できます。また、tools パラメータと tool_choice パラメータによるツール使用をサポートし、structured outputs と response_format によって出力の形状を制約できます。サンプリング動作は temperature、top_k、min_p、frequency_penalty、presence_penalty、repetition_penalty、seed、stop で調整でき、トークンレベルの確率が必要な場合は logprobs と top_logprobs を利用できます。

これらの機能は、いくつかの実用的な用途を示しています。ツール呼び出しエージェントが最も明確な適合先です。このモデルは推論してからツールを呼び出すように設計されているため、情報を調べたり、関数を呼び出したり、手順を連鎖させたりする必要があるワークフローに適しています。structured outputs は、ドキュメントからフィールドを抽出したり、別のシステムに渡す機械可読な結果を返したりする場合に妥当な選択肢となります。128,000 トークンのコンテキストウィンドウは、大きなドキュメント、長い会話履歴、かなりのサイズのコードファイルなどの長い入力に対応し、推論ステップは、回答前に問題を検討することが役立つタスク、たとえば多段階の分析や計画に役立ちます。

モデルは api14 の OpenAI 互換 API を通じて、モデル ID "liquid/lfm-2.5-24b-a2b" を使用して呼び出します。リクエストは OpenAI chat completions 形式に従うため、既存の OpenAI SDK やクライアントは base URL とモデル ID を変更するだけで動作します。サポートされるリクエストパラメータは frequency_penalty、include_reasoning、logprobs、max_completion_tokens、max_tokens、min_p、presence_penalty、reasoning、repetition_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_k、top_logprobs です。

出力上限に注意してください。レスポンスは 8,192 トークンに制限されるため、非常に長い単一の回答が必要なタスクでは、処理を複数の呼び出しに分割する必要がある場合があります。このモデルはテキスト専用であるため、入力に画像や音声が含まれる場合は別のモデルが必要です。推論やツール呼び出しが価値を加えない単純で大量のテキスト生成では、よりシンプルなモデルの方が安価で高速な場合がありますが、エージェント形式の作業や構造化抽出の作業では、このモデルの機能セットは良い適合先です。