Vi använder cookies. Cookies och webbläsarlagring håller dig inloggad och kommer ihåg dina preferenser. Med ditt tillstånd mäter vi också hur webbplatsen används. Du kan när som helst. Läs vår cookiepolicy.
ricursiveai/ripple-65b-previewKörs på ditt saldo till priserna ovan. Nya konton börjar med gratis användning.
Inställningar
Ripple-65B-Preview är en textmodell från ricursiveAI, släppt som en förhandsversion. Det är en modell med 65B parametrar som serveras i BF16, och den tillhör textkategorin, så den är inriktad på språkarbete snarare än bild, ljud eller andra modaliteter. Etiketten förhandsversion indikerar att detta är en tidig version av modellen snarare än en slutlig, fastställd release.
Modellen tar text som indata och returnerar text som utdata, med ett kontextfönster på 1 048 576 tokens. Det är tillräckligt med utrymme för att rymma mycket stora indata i en enda begäran, såsom långa dokument, omfattande kodfiler eller långa konversationshistoriker, utan att dela upp dem över flera anrop. Den maximala utdatan är 131 072 tokens, så svaren kan också bli långa. Inbyggt verktygsanrop är en del av modellen själv, vilket innebär att den kan avgöra när den ska anropa funktioner du definierar och införliva resultaten i sitt svar.
Dessa funktioner pekar mot några praktiska mönster. Den stora kontexten passar uppgifter där modellen behöver resonera över en hel korpus på en gång: granska ett långt kontrakt, sammanfatta en stor kodbas, eller besvara frågor mot en stor uppsättning dokument utan ett separat hämtningssteg. Inbyggt verktygsanrop passar agentliknande arbetsflöden, där modellen frågar ett API, en databas eller en intern tjänst och sedan fortsätter från den returnerade datan. Den långa utdatagränsen hjälper när du behöver en fullständig rapport, en stor refaktorering eller en komplett fil snarare än ett kort svar.
Du kan anropa den via api14:s OpenAI-kompatibla API med modell-id:t "ricursiveai/ripple-65b-preview". Eftersom gränssnittet följer OpenAI-formatet fungerar befintliga OpenAI-SDK:er och klienter med en ändring av bas-URL och modell-id. De begärandeparametrar den stöder är logprobs, max_tokens, response_format, seed, temperature, tool_choice, tools, top_logprobs och top_p. Det täcker samplingskontroll via temperature och top_p, deterministiska körningar via seed, strukturerad utdata via response_format, och funktionsanrop via tools och tool_choice. Logprobs och top_logprobs är tillgängliga om du behöver konfidensinformation på token-nivå.
Eftersom detta är en förhandsversion är det värt att testa mot dina egna arbetsbelastningar innan du satsar på den i produktion, och att kontrollera om en nyare version har dykt upp. Om din uppgift är liten eller latenskänslig kan en 65B-modell vara mer än du behöver, och en mindre modell kan passa dig bättre. Om ditt arbete inte är textbaserat är denna modell inte rätt val, eftersom den endast tar emot och producerar text.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "ricursiveai/ripple-65b-preview",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
logprobsmax_tokensresponse_formatseedtemperaturetool_choicetoolstop_logprobstop_pDen här communityn har inga trådar ännu. Starta den första om Ricursive: Ripple 65B Preview.