Cohere: Command A

Command A は Cohere のテキスト生成モデルで、プロバイダーによって 2025 年 3 月 13 日にリリースされました。これは 1,110 億パラメータのオープンウェイトモデルで、Cohere によってエージェント、多言語、コーディング作業向けに位置付けられています。api14 ではモデル id cohere/command-a で表示され、テキストカテゴリに属するため、画像、音声、動画の処理ではなく言語タスクを目的としています。

このモデルは入力としてテキストを受け取り、出力としてテキストを返します。コンテキストウィンドウは 256,000 トークンで、非常に長いプロンプト、大きなドキュメント、拡張された会話履歴を 1 回のリクエストで送信できます。最大出力長は 8,192 トークンなので、応答は入力容量よりかなり低く制限されます。知識カットオフは 2024 年 8 月 31 日で、それ以降の出来事や情報はモデルがトレーニング中に学習した内容には含まれません。

これらの特性はいくつかの実用的な用途を示します。大きなコンテキストウィンドウは、長い入力に対して読み取りと推論を行うタスク、たとえば長いレポートの要約、大量のテキストに対する質問応答、モデルが多くのターンにわたって状態を追跡する必要がある多段階のエージェントワークフローの処理に適しています。多言語への注力により、複数の言語でユーザーにサービスを提供するアプリケーション、たとえば翻訳スタイルのタスクや言語横断的な質問応答に合理的な選択肢となります。コーディングへの重点は、テキストベースのパイプライン内でコード生成、説明、レビューに使用できることを意味します。テキストのみがサポートされるため、チャットアシスタント、ドキュメント処理、開発者ツールに適しており、視覚や音声を必要とするものには向きません。

モデルは、モデル id cohere/command-a を使用して api14 の OpenAI 互換 API を通じて呼び出します。サポートされるリクエストパラメータは、frequency_penalty、max_tokens、presence_penalty、response_format、seed、stop、structured_outputs、temperature、top_k、top_p です。このセットは、通常のサンプリング制御 (temperature、top_p、top_k)、反復制御 (frequency と presence のペナルティ)、max_tokens による出力長、stop による停止条件、seed による決定論的サンプリング、response_format と structured_outputs による出力整形をカバーします。すでに OpenAI スタイルのクライアントを使用している場合は、api14 を指定してモデル id を変更できます。

選択時に留意すべき 2 つの制限があります。このモデルはテキスト専用なので、タスクが画像や音声に依存する場合は別のモデルが必要です。また、8,192 トークンの出力上限は、非常に長い生成を複数のリクエストに分割するか、より長い応答を許可するモデルで処理する必要があることを意味します。最後に、2024 年 8 月 31 日の知識カットオフは、それより最近の出来事に関する質問には、モデルの内部知識に頼るのではなく、取得したコンテキストを使って回答すべきであることを意味します。