We gebruiken cookies. Cookies en browseropslag houden je ingelogd en onthouden je voorkeuren. Met je toestemming meten we ook hoe de site wordt gebruikt. Je kunt je wanneer je wilt. Zie ons cookiebeleid.
ricursiveai/ripple-65b-previewDraait op je saldo tegen de prijzen hierboven. Nieuwe accounts beginnen met gratis gebruik.
Instellingen
Ripple-65B-Preview is een tekstmodel van ricursiveAI, uitgebracht als een preview-build. Het is een model met 65B parameters dat in BF16 wordt aangeboden, en het valt in de tekstcategorie, dus het is gericht op taalwerk en niet op beeld, audio of andere modaliteiten. Het preview-label geeft aan dat dit een vroege versie van het model is en geen definitieve, uitgekristalliseerde release.
Het model neemt tekst als invoer en geeft tekst als uitvoer, met een contextvenster van 1.048.576 tokens. Dat is genoeg ruimte om zeer grote invoer in één verzoek te verwerken, zoals lange documenten, uitgebreide codebestanden of lange gespreksgeschiedenissen, zonder ze over meerdere aanroepen te splitsen. De maximale uitvoer is 131.072 tokens, dus antwoorden kunnen ook lang zijn. Native tool calling maakt deel uit van het model zelf, wat betekent dat het kan beslissen wanneer het functies aanroept die u definieert en de resultaten in zijn antwoord kan verwerken.
Die mogelijkheden wijzen op een paar praktische patronen. De grote context is geschikt voor taken waarbij het model over een heel corpus tegelijk moet redeneren: het beoordelen van een lang contract, het samenvatten van een grote codebase, of het beantwoorden van vragen op basis van een grote set documenten zonder een aparte retrieval-stap. Native tool calling past bij agent-achtige workflows, waarbij het model een API, een database of een interne service bevraagt en vervolgens verdergaat met de geretourneerde gegevens. De lange uitvoerlimiet helpt wanneer u een volledig rapport, een grote refactor of een compleet bestand nodig hebt in plaats van een kort antwoord.
U kunt het aanroepen via de OpenAI-compatibele API van api14 met het model-id "ricursiveai/ripple-65b-preview". Omdat de interface het OpenAI-formaat volgt, werken bestaande OpenAI SDK's en clients met een wijziging van de base URL en het model-id. De verzoekparameters die het ondersteunt zijn logprobs, max_tokens, response_format, seed, temperature, tool_choice, tools, top_logprobs en top_p. Dat dekt sampling-controle via temperature en top_p, deterministische runs via seed, gestructureerde uitvoer via response_format, en function calling via tools en tool_choice. Logprobs en top_logprobs zijn beschikbaar als u token-niveau betrouwbaarheidsinformatie nodig hebt.
Aangezien dit een preview-release is, is het de moeite waard om het te testen tegen uw eigen workloads voordat u zich er in productie aan vastlegt, en om te controleren of er een nieuwere build is verschenen. Als uw taak klein is of gevoelig voor latentie, is een 65B-model mogelijk meer dan u nodig hebt, en een kleiner model zou u beter kunnen dienen. Als uw werk niet op tekst is gebaseerd, is dit model niet de juiste keuze, want het accepteert en produceert alleen tekst.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "ricursiveai/ripple-65b-preview",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
logprobsmax_tokensresponse_formatseedtemperaturetool_choicetoolstop_logprobstop_pDeze community heeft nog geen topics. Open het eerste topic over Ricursive: Ripple 65B Preview.