Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
初めてですか？使い方をご紹介します プレイグラウンド、モデル、APIキーを1分でご案内します。
Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
ricursiveai/ripple-65b-preview上記の料金で残高から差し引かれます。新規アカウントには無料利用分があります。
設定
Ripple-65B-PreviewはricursiveAIのテキストモデルで、プレビュービルドとしてリリースされています。65BパラメータのモデルでBF16で提供され、テキストカテゴリに属するため、画像、音声、その他のモダリティではなく言語作業を対象としています。プレビューという表記は、これが最終的な確定版ではなく、モデルの初期バージョンであることを示しています。
このモデルはテキストを入力として受け取り、テキストを出力として返し、コンテキストウィンドウは1,048,576トークンです。これは、長い文書、大規模なコードファイル、長い会話履歴など、非常に大きな入力を複数の呼び出しに分割せず、1回のリクエストで保持するのに十分な容量です。最大出力は131,072トークンなので、応答も長くできます。ネイティブのツール呼び出しはモデル自体の機能であり、ユーザーが定義した関数をいつ呼び出すかを判断し、その結果を回答に組み込むことができます。
これらの機能は、いくつかの実用的なパターンを示しています。大きなコンテキストは、モデルがコーパス全体を一度に推論する必要があるタスクに適しています。たとえば、長い契約書のレビュー、大規模なコードベースの要約、別途の検索ステップなしで大量の文書群に対して質問に答えることなどです。ネイティブのツール呼び出しは、モデルがAPI、データベース、内部サービスに問い合わせ、返されたデータから処理を続けるエージェント型のワークフローに適しています。長い出力制限は、短い返信ではなく、完全なレポート、大規模なリファクタリング、完全なファイルが必要な場合に役立ちます。
api14のOpenAI互換APIを通じて、モデルID「ricursiveai/ripple-65b-preview」を使用して呼び出すことができます。インターフェースはOpenAI形式に従っているため、既存のOpenAI SDKやクライアントは、ベースURLとモデルIDを変更するだけで動作します。サポートされるリクエストパラメータは、logprobs、max_tokens、response_format、seed、temperature、tool_choice、tools、top_logprobs、top_pです。これにより、temperatureとtop_pによるサンプリング制御、seedによる決定論的実行、response_formatによる構造化出力、toolsとtool_choiceによる関数呼び出しが可能です。トークンレベルの信頼度情報が必要な場合は、logprobsとtop_logprobsを利用できます。
これはプレビューリリースであるため、本番環境で採用する前に自分のワークロードでテストし、より新しいビルドが登場していないか確認する価値があります。タスクが小規模またはレイテンシに敏感な場合、65Bモデルは必要以上に大きい可能性があり、より小さなモデルの方が適しているかもしれません。作業がテキストベースでない場合、このモデルはテキストのみを受け取り、生成するため、適していません。
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "ricursiveai/ripple-65b-preview",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
logprobsmax_tokensresponse_formatseedtemperaturetool_choicetoolstop_logprobstop_pこのコミュニティにはまだトピックがありません。Ricursive: Ripple 65B Previewについて最初のトピックを立てましょう。