Relace: Relace Search

Relace Search は Relace のテキストモデルで、api14 にモデル ID relace/relace-search として掲載されています。テキストカテゴリに属し、汎用チャットではなくコードベースの探索を中心に設計されています。プロバイダーによると、このモデルは 4 から 12 個の view_file ツールと grep ツールを並列で使用してコードベースを探索し、ユーザーのリクエストに関連するファイルを返します。これは検索の領域に位置づけられますが、RAG で使われる埋め込みとベクトル検索のパターンではなく、エージェント的なアプローチを取っています。

このモデルはテキストを入力として受け取り、テキストを出力として返します。コンテキストウィンドウは 256,000 トークン、最大出力は 128,000 トークンで、リクエストとともに大量のソース資料を保持してもなお、十分な回答の余地を残せる寛容さがあります。サポートされるリクエストパラメータは max_tokens、response_format、seed、stop、temperature、tool_choice、tools、top_p です。tools と tool_choice の存在は、そのツール駆動型の設計と一致します。モデルは回答を生成する過程で view_file と grep を呼び出すことが想定されています。

実用的な用途は、この設計から導かれます。コーディングアシスタント、リポジトリに関する質問に答えるエージェント、変更リクエストに関連するファイルを特定する必要があるパイプラインを構築しているなら、Relace Search はまさにその仕事を狙っています。コードベースを埋め込みにして、類似度検索が正しいチャンクを浮かび上がらせることを期待する代わりに、どのファイルを開き、どのパターンを grep するかをモデルに判断させ、関連するファイルを返します。また、トリアージ、不慣れなリポジトリへのオンボーディング、編集前のスコープ確認など、完成したパッチではなくファイルの候補リストを下流のステップが必要とするワークフローにも適しています。

呼び出しは api14 の OpenAI 互換 API を通じて、モデル ID relace/relace-search を使用して行います。インターフェースは OpenAI の chat completions の形に従っているため、model フィールドにその ID を設定し、messages を添えてリクエストを送信します。また、サポートされている任意のパラメータ、max_tokens、response_format、seed、stop、temperature、tool_choice、tools、top_p を渡すことができます。既存のコードがすでに OpenAI 互換エンドポイントを対象としているなら、このモデルへの切り替えは、主にモデル文字列を変更することと、必要に応じてツール定義を提供することだけです。

検討すべき点の一つはスコープです。プロバイダーの説明は、このモデルを view_file と grep によるコードベース探索を中心に位置づけているため、リポジトリ内のファイル特定とは無関係なタスクには、汎用のテキストモデルの方が適しているかもしれません。画像や音声の入力が必要な場合、入力と出力はどちらもテキストのみであるため、このモデルはそれを受け付けません。