Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
初めてですか？使い方をご紹介します プレイグラウンド、モデル、APIキーを1分でご案内します。
Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
liquid/lfm-3-1.7b:free上記の料金で残高から差し引かれます。新規アカウントには無料利用分があります。
設定
LiquidAI: LFM3-1.7B (無料) は、LiquidAIからのテキストモデルであり、モデルID liquid/lfm-3-1.7b:free で api14 で識別されます。これは17億のパラメータを持つコンパクトなモデルであり、提供元によってエージェント、ツール呼び出し、構造化出力のためにポストトレーニングされた小型のテキストモデルとして位置づけられています。これは双方向のテキストのみのモデルであり、テキストのプロンプトを受け取り、テキストの応答を返します。
このモデルは262,144トークンのコンテキストウィンドウを持っており、このサイズのモデルとしては大きく、単一のリクエストで長文のドキュメント、長時間の会話、またはかなりの量のツール出力を処理できます。最大出力は8,192トークンです。提供元によると、このモデルは回答する前に推論を行うため、応答には最終出力の前に推論ステップが含まれる場合があります。エージェント的な動作のためにポストトレーニングされているため、ツール呼び出しと構造化出力はアドオンではなく、設計の第一級の要素となっています。
これらの機能は、かなり特定の用途を示唆しています。長いコンテキストは、長文ドキュメントの要約や情報抽出、大規模なコードファイルのレビュー、および初期のターンを常に表示する必要がある長時間の会話の維持に適しています。ツール呼び出しにより、モデルがどの関数をどのような引数で呼び出すかを決定するエージェントワークフローの候補となります。構造化出力は、応答がスキーマに準拠する必要がある場合、例えばダウンストリームサービスのためのフィールド入力や機械可読なレコードの生成時に役立ちます。推論動作は、中間ステップが最終的な回答を改善する多段階の質問に有用です。
モデルは、モデルID liquid/lfm-3-1.7b:free を使用して api14 のOpenAI互換APIを介して呼び出すため、既存のOpenAIクライアントライブラリやリクエストの形式は、ベースURLとモデル名を変更するだけで利用できます。このモデルは、temperature、top_p、top_k、min_p、frequency_penalty、presence_penalty、repetition_penalty、seed、stop、max_tokens、max_completion_tokens、logprobs、top_logprobs、response_format、structured_outputs、tools、tool_choice、reasoning、include_reasoningなど、幅広いリクエストパラメータをサポートしています。temperatureやtop_pなどのサンプリング制御は通常の生成をカバーする一方、toolsとtool_choiceは関数呼び出しを駆動し、structured_outputsやresponse_formatは応答の形状を制約します。reasoningとinclude_reasoningのパラメータはモデルの推論ステップに関連し、seedは再現可能なサンプリングをサポートします。
留意すべき主な制約は出力の上限です。コンテキストウィンドウははるかに大きいにもかかわらず、応答は8,192トークンに制限されるため、非常に長い単一の応答を必要とするタスクは、呼び出しを分割して作業を行う必要がある場合があります。このモデルはテキストのみであるため、画像や音声を入力として受け取ることができません。ツール呼び出しと構造化出力を備えた小型で効率的なテキストモデルで十分なワークロードには適していますが、タスクが他の入力モダリティやはるかに大きな出力予算に依存する場合は、別のモデルの方が適しているでしょう。
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "liquid/lfm-3-1.7b:free",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_completion_tokensmax_tokensmin_ppresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_pこのコミュニティにはまだトピックがありません。LiquidAI: LFM3-1.7B (free)について最初のトピックを立てましょう。