Meta: Muse Glimmer 30B

Meta: Muse Glimmer 30Bは、Meta Superintelligence Labsが開発した、Metaのdenseなオープンウェイトのマルチモーダルモデルです。Muse Sparkからdistillされ、コンシューマーハードウェア上の自律エージェント向けに最適化されています。テキストカテゴリに属し、長期的な作業に向けて位置付けられているため、単発のプロンプトと応答のタスクではなく、エージェント形式のアプリケーションの候補となります。

このモデルはテキストと画像の入力を受け付け、テキスト出力を生成します。コンテキストウィンドウは131072トークンで、最大出力長は16384トークンです。推論をサポートしており、include_reasoningパラメータとreasoningパラメータを通じて公開され、さらにreasoning_effortでモデルが実行する推論作業の量を制御できます。テキストだけでなく画像も扱えるため、リクエストの一部としてスクリーンショット、図、その他の視覚資料を受け取ることができますが、返されるものはすべてテキストです。

これらの機能は、いくつかの実用的な用途を示しています。長期的なエージェントワークフローは、大きなコンテキストウィンドウ、ツール呼び出し、推論制御の組み合わせを考えると、最も明確に適合します。ツール使用はtoolsパラメータとtool_choiceパラメータを通じてサポートされているため、このモデルをfunction callingのループに組み込むことができます。structured outputsとresponse_formatにより、応答をスキーマに制約できるため、抽出、分類、データパイプラインに適しています。画像入力は、行動する前にスクリーンショットやドキュメント画像を読む必要があるタスクにこれを拡張します。16384トークンの出力上限は、多段階のエージェント実行を計画する際に留意する価値があります。長い推論トレースとツール結果がその予算を消費するためです。

このモデルは、model id "meta/muse-glimmer-30b"を使用して、api14のOpenAI互換APIを通じて呼び出します。サポートされているリクエストパラメータは、frequency_penalty、include_reasoning、logit_bias、max_tokens、min_p、presence_penalty、reasoning、reasoning_effort、repetition_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_k、top_pです。サンプリングはtemperature、top_p、top_k、min_pで調整でき、seed、stop、logit_bias、およびペナルティパラメータによって決定性と繰り返しをより細かく制御できます。推論の動作は、reasoningパラメータとreasoning_effortパラメータを通じて別途設定します。

出力上限とテキストのみの出力モダリティ以外に、明記された制限はありません。タスクに音声または動画の入力、あるいは非テキスト形式での出力が必要な場合、このモデルはそれを提供しません。ツール、画像、推論を必要としない単純で短いプロンプトには、より小型または単純なモデルの方が経済的な選択肢になるかもしれませんが、ここに記載された事実は特定の代替モデルを示していません。