Auto Router

Auto Router は OpenRouter のモデルで、api14 上では openrouter/auto として識別されます。単一の固定モデルではなく、ルーティング層です。OpenRouter はこれを、市場の知恵に基づいてプロンプトに最適なモデルを自動選択し、コミュニティが集合的に費やすものに基づいてルーティングすると説明しています。image メインカテゴリに属し、text カテゴリも持つため、両方にまたがる作業を想定しています。プロバイダーのリリース日は 2023-11-08 です。

入力側では、Auto Router は text、image、audio、file、video を受け付けます。これは単一のエンドポイントとしては幅広いモダリティです。出力は text と image を生成します。コンテキストウィンドウは 2,000,000 トークンで、非常に長いドキュメントや混合メディアのペイロードを 1 回のリクエストに収めるのに十分な大きさです。ルーティングは背後で行われるため、特定の呼び出しを処理する具体的なモデルはプロンプトによって変わり得ますが、コーディングする対象のインターフェースは同じままです。

実用的な用途は、この組み合わせから導かれます。長いコンテキストと file および text 入力は、大規模コーパスに対するドキュメント分析、要約、質問応答に適しています。image と video 入力と text および image 出力は、キャプション付け、視覚的検査、画像を返してほしい生成または編集タスクに適しています。audio 入力は、同じパイプラインを文字起こしに近いワークフローや音声コンテンツのワークフローに拡張します。ツールと構造化出力のサポートにより、関数を呼び出したり JSON 形式の応答を返したりする必要があるエージェント型アプリケーションに適しています。また、web search オプションは、プロンプトが最新情報に依存する場合に役立ちます。

api14 の OpenAI 互換 API を通じて、モデル id の openrouter/auto を使って呼び出します。そのため、既存の OpenAI SDK やクライアントは、ベース URL とキーの変更だけで動作します。サポートされるリクエストパラメータは、frequency_penalty、include_reasoning、logit_bias、logprobs、max_tokens、min_p、prediction、presence_penalty、reasoning、reasoning_effort、repetition_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_a、top_k、top_logprobs、top_p、web_search_options です。サンプリング制御、ペナルティ、シード、停止シーケンス、対数確率、推論制御がすべて利用可能で、プログラムによる利用のためのツールと構造化出力も併せて利用できます。

考慮すべき点の 1 つは、ルーティングの決定が自動で行われるため、特定のモデルの正確な挙動、呼び出し間の決定性、または固定の出力上限が必要な場合は、名前付きモデルの方が適している可能性があることです。maxOutput の値はここでは公開されていないため、その不確実性を前提に計画してください。Auto Router は、リクエストごとにモデルを選びたくない、混合モダリティで長いコンテキストの作業向けの便利なエンドポイントとして扱うのが最適です。