Wir verwenden Cookies. Cookies und Browserspeicher halten Sie angemeldet und merken sich Ihre Einstellungen. Mit Ihrer Zustimmung messen wir außerdem, wie die Website genutzt wird. Sie können jederzeit . Siehe unsere Cookie-Richtlinie.
ricursiveai/ripple-65b-previewLäuft über Ihr Guthaben zu den oben genannten Preisen. Neue Konten starten mit kostenloser Nutzung.
Einstellungen
Ripple-65B-Preview ist ein Textmodell von ricursiveAI, veröffentlicht als Preview-Build. Es ist ein Modell mit 65B Parametern, das in BF16 bereitgestellt wird, und es gehört zur Kategorie Text, richtet sich also auf Spracharbeit und nicht auf Bilder, Audio oder andere Modalitäten. Die Bezeichnung Preview zeigt an, dass dies eine frühe Version des Modells ist und keine finale, gefestigte Veröffentlichung.
Das Modell nimmt Text als Eingabe und gibt Text als Ausgabe zurück, mit einem Kontextfenster von 1.048.576 Tokens. Das ist genug Platz, um sehr große Eingaben in einer einzigen Anfrage zu halten, etwa lange Dokumente, umfangreiche Codedateien oder lange Gesprächsverläufe, ohne sie über mehrere Aufrufe aufzuteilen. Die maximale Ausgabe beträgt 131.072 Tokens, sodass auch Antworten lang sein können. Natives Tool Calling ist Teil des Modells selbst, was bedeutet, dass es entscheiden kann, wann es von Ihnen definierte Funktionen aufruft, und die Ergebnisse in seine Antwort einbezieht.
Diese Fähigkeiten deuten auf einige praktische Muster hin. Der große Kontext eignet sich für Aufgaben, bei denen das Modell über einen gesamten Korpus auf einmal reasoning betreiben muss: die Prüfung eines langen Vertrags, die Zusammenfassung einer großen Codebasis oder die Beantwortung von Fragen gegen einen großen Satz von Dokumenten ohne einen separaten Retrieval-Schritt. Natives Tool Calling passt zu Agent-artigen Workflows, bei denen das Modell eine API, eine Datenbank oder einen internen Dienst abfragt und dann mit den zurückgegebenen Daten fortfährt. Das lange Ausgabelimit hilft, wenn Sie einen vollständigen Bericht, ein großes Refactoring oder eine komplette Datei benötigen statt einer kurzen Antwort.
Sie können es über die OpenAI-kompatible API von api14 mit der Modell-ID "ricursiveai/ripple-65b-preview" aufrufen. Da die Schnittstelle dem OpenAI-Format folgt, funktionieren bestehende OpenAI SDKs und Clients mit einer Änderung der Base-URL und der Modell-ID. Die unterstützten Anfrageparameter sind logprobs, max_tokens, response_format, seed, temperature, tool_choice, tools, top_logprobs und top_p. Das deckt Sampling-Steuerung über temperature und top_p ab, deterministische Läufe über seed, strukturierte Ausgabe über response_format und Function Calling über tools und tool_choice. Logprobs und top_logprobs sind verfügbar, wenn Sie Konfidenzinformationen auf Token-Ebene benötigen.
Da dies eine Preview-Veröffentlichung ist, lohnt es sich, sie gegen Ihre eigenen Workloads zu testen, bevor Sie sich in der Produktion darauf festlegen, und zu prüfen, ob ein neuerer Build erschienen ist. Wenn Ihre Aufgabe klein oder latenzempfindlich ist, könnte ein 65B-Modell mehr sein, als Sie benötigen, und ein kleineres Modell könnte Ihnen besser dienen. Wenn Ihre Arbeit nicht textbasiert ist, ist dieses Modell nicht die richtige Wahl, da es nur Text annimmt und erzeugt.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "ricursiveai/ripple-65b-preview",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
logprobsmax_tokensresponse_formatseedtemperaturetool_choicetoolstop_logprobstop_pIn dieser Community gibt es noch keine Themen. Eröffnen Sie das erste zu Ricursive: Ripple 65B Preview.