Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
初めてですか？使い方をご紹介します プレイグラウンド、モデル、APIキーを1分でご案内します。
Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
inclusionai/ling-3.0-tiny上記の料金で残高から差し引かれます。新規アカウントには無料利用分があります。
設定
Ling 3.0 Tiny は inclusionAI のテキストモデルです。これは mixture-of-experts モデルで、総パラメータ 7.9B のうち 1.3B がアクティブパラメータです。設計は応答性の高いエージェント、指示追従、マルチターン会話を対象としており、切り替え可能な推論動作をサポートします。テキストカテゴリに属するため、画像、音声、その他のメディアではなく言語処理を目的としています。
モデルはテキストを入力として受け取り、テキストを出力として返します。コンテキストウィンドウは 262144 トークンで、最大出力は 250000 トークンです。つまり、非常に長い入力と非常に長い生成の両方が 1 回のリクエスト内で可能です。推論はオンまたはオフに切り替えられ、有効にすると推論内容を include_reasoning パラメータを通じて別途取得できます。大きなコンテキストと比較的小さなアクティブパラメータ数のこの組み合わせにより、長い文書と同時にレイテンシとスループットが重要なワークロードの候補となります。
実用的な用途はこれらの特性から導かれます。応答性の高いエージェントとツール駆動のワークフローは、指示追従と tools サポートに適合します。マルチターン会話システムは長いコンテキストの恩恵を受けます。以前のターンと参照資料をプロンプト内に保持できるためです。長い文書の要約、抽出、質問応答は、コンテキストウィンドウが大きいため実行可能です。構造化出力タスクは response_format を通じて機能し、分類やスコアリングのタスクでは logprobs と top_logprobs を使用できます。推論を多用するプロンプトは、最終回答の前に段階的な処理を必要とするタスクで推論を有効にすることで対応できます。
モデルは model id "inclusionai/ling-3.0-tiny" を使用して api14 の OpenAI 互換 API を通じて呼び出します。インターフェースは OpenAI chat completions の形式に従っているため、既存の OpenAI SDK とクライアントは base URL を api14 に向け、model id を設定することで動作します。サポートされるリクエストパラメータは frequency_penalty、include_reasoning、logprobs、max_tokens、presence_penalty、reasoning、response_format、seed、stop、temperature、tools、top_logprobs、top_p です。max_tokens で生成を制限し、temperature とペナルティパラメータでスタイルと繰り返しを調整し、seed で再現可能なサンプリングを行い、stop で選択したシーケンスで生成を終了します。Tools は関数呼び出しを有効にし、response_format は出力構造を制約します。
別のモデルの方が適している場合もあります。このモデルはテキストのみを扱うため、画像または音声の入力や出力を必要とするタスクには別のモデルが必要です。これは tiny バリアントであるため、可能な限り最強の推論や知識をタスクが要求する場合、同じファミリーのより大きなモデルまたは別のプロバイダーの方が良い選択肢になる可能性があります。サポートされているパラメータ内での単純なテキスト生成、エージェント、長いコンテキストの作業には、妥当なデフォルトです。
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "inclusionai/ling-3.0-tiny",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_tokenspresence_penaltyreasoningresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_logprobstop_pこのコミュニティにはまだトピックがありません。inclusionAI: Ling 3.0 Tinyについて最初のトピックを立てましょう。