Usamos cookies. Cookies e o armazenamento do navegador mantêm você conectado e lembram suas preferências. Com sua permissão, também medimos como o site é usado. Você pode a qualquer momento. Veja nossa política de cookies.
ricursiveai/ripple-65b-previewUsa o seu saldo, aos preços acima. Novas contas começam com uso grátis.
Configurações
Ripple-65B-Preview é um modelo de texto da ricursiveAI, lançado como uma versão de pré-visualização. É um modelo de 65B parâmetros servido em BF16, e situa-se na categoria de texto, portanto destina-se a trabalho de linguagem em vez de imagem, áudio ou outras modalidades. O rótulo de pré-visualização indica que esta é uma versão inicial do modelo e não um lançamento final e definitivo.
O modelo recebe texto como entrada e devolve texto como saída, com uma janela de contexto de 1.048.576 tokens. Isso é espaço suficiente para conter entradas muito grandes num único pedido, como documentos longos, ficheiros de código extensos ou históricos de conversa prolongados, sem os dividir por várias chamadas. A saída máxima é de 131.072 tokens, pelo que as respostas também podem ser longas. A chamada nativa de ferramentas faz parte do próprio modelo, o que significa que este pode decidir quando chamar funções que definires e incorporar os resultados na sua resposta.
Estas capacidades apontam para alguns padrões práticos. O contexto grande adequa-se a tarefas em que o modelo precisa de raciocinar sobre um corpus inteiro de uma só vez: rever um contrato longo, resumir uma base de código extensa, ou responder a perguntas com base num grande conjunto de documentos sem um passo separado de recuperação. A chamada nativa de ferramentas encaixa em fluxos de trabalho do tipo agente, em que o modelo consulta uma API, uma base de dados ou um serviço interno e depois continua a partir dos dados devolvidos. O limite de saída longo ajuda quando precisas de um relatório completo, de uma refatoração grande ou de um ficheiro completo em vez de uma resposta curta.
Podes chamá-lo através da API compatível com OpenAI da api14 usando o id de modelo "ricursiveai/ripple-65b-preview". Como a interface segue o formato OpenAI, os SDKs e clientes OpenAI existentes funcionam com uma alteração do URL base e do id de modelo. Os parâmetros de pedido que suporta são logprobs, max_tokens, response_format, seed, temperature, tool_choice, tools, top_logprobs e top_p. Isto cobre o controlo de amostragem através de temperature e top_p, execuções determinísticas através de seed, saída estruturada através de response_format, e chamada de funções através de tools e tool_choice. Logprobs e top_logprobs estão disponíveis se precisares de informação de confiança ao nível do token.
Como este é um lançamento de pré-visualização, vale a pena testá-lo com as tuas próprias cargas de trabalho antes de assumires um compromisso de o usar em produção, e verificar se apareceu uma versão mais recente. Se a tua tarefa for pequena ou sensível à latência, um modelo de 65B pode ser mais do que precisas, e um modelo mais pequeno poderia servir-te melhor. Se o teu trabalho não for baseado em texto, este modelo não é o mais adequado, uma vez que só aceita e produz texto.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "ricursiveai/ripple-65b-preview",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
logprobsmax_tokensresponse_formatseedtemperaturetool_choicetoolstop_logprobstop_pEsta comunidade ainda não tem tópicos. Abra o primeiro sobre Ricursive: Ripple 65B Preview.