Kami menggunakan cookie. Cookie dan penyimpanan browser menjaga Anda tetap masuk dan mengingat preferensi Anda. Dengan izin Anda, kami juga mengukur cara situs digunakan. Anda dapat kapan saja. Lihat kebijakan cookie kami.
ricursiveai/ripple-65b-previewBerjalan dengan saldo Anda sesuai harga di atas. Akun baru mendapat pemakaian gratis.
Pengaturan
Ripple-65B-Preview adalah model teks dari ricursiveAI, dirilis sebagai build pratinjau. Ini adalah model dengan 65B parameter yang disajikan dalam BF16, dan berada dalam kategori teks, sehingga ditujukan untuk pekerjaan bahasa bukan gambar, audio atau modalitas lainnya. Label pratinjau menunjukkan ini adalah versi awal model bukan rilis final yang sudah mapan.
Model ini menerima teks sebagai input dan mengembalikan teks sebagai output, dengan jendela konteks 1.048.576 token. Itu cukup ruang untuk menampung input yang sangat besar dalam satu permintaan, seperti dokumen panjang, file kode yang ekstensif atau riwayat percakapan yang panjang, tanpa memecahnya ke beberapa panggilan. Output maksimum adalah 131.072 token, sehingga respons juga bisa panjang. Pemanggilan tool native adalah bagian dari model itu sendiri, yang berarti model dapat memutuskan kapan harus memanggil fungsi yang Anda definisikan dan memasukkan hasilnya ke dalam jawabannya.
Kemampuan tersebut mengarah pada beberapa pola praktis. Konteks yang besar cocok untuk tugas di mana model perlu bernalar atas seluruh korpus sekaligus: meninjau kontrak panjang, merangkum basis kode yang besar, atau menjawab pertanyaan terhadap sekumpulan besar dokumen tanpa langkah pengambilan terpisah. Pemanggilan tool native cocok untuk alur kerja bergaya agen, di mana model melakukan kueri ke API, basis data atau layanan internal lalu melanjutkan dari data yang dikembalikan. Batas output yang panjang membantu ketika Anda memerlukan laporan lengkap, refaktor besar atau file utuh bukan balasan singkat.
Anda dapat memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "ricursiveai/ripple-65b-preview". Karena antarmukanya mengikuti format OpenAI, SDK dan klien OpenAI yang ada dapat bekerja dengan mengubah base URL dan model id. Parameter permintaan yang didukung adalah logprobs, max_tokens, response_format, seed, temperature, tool_choice, tools, top_logprobs dan top_p. Itu mencakup kontrol sampling melalui temperature dan top_p, eksekusi deterministik melalui seed, output terstruktur melalui response_format, dan pemanggilan fungsi melalui tools dan tool_choice. Logprobs dan top_logprobs tersedia jika Anda memerlukan informasi keyakinan tingkat token.
Karena ini adalah rilis pratinjau, ada baiknya mengujinya terhadap beban kerja Anda sendiri sebelum berkomitmen menggunakannya di produksi, dan memeriksa apakah sudah muncul build yang lebih baru. Jika tugas Anda kecil atau sensitif terhadap latensi, model 65B mungkin lebih dari yang Anda butuhkan, dan model yang lebih kecil bisa melayani Anda lebih baik. Jika pekerjaan Anda tidak berbasis teks, model ini bukan pilihan yang tepat, karena hanya menerima dan menghasilkan teks.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "ricursiveai/ripple-65b-preview",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
logprobsmax_tokensresponse_formatseedtemperaturetool_choicetoolstop_logprobstop_pKomunitas ini belum memiliki topik. Buka topik pertama tentang Ricursive: Ripple 65B Preview.