Çerez kullanıyoruz. Çerezler ve tarayıcı depolaması oturumunu açık tutar ve tercihlerini hatırlar. İzin verirsen sitenin nasıl kullanıldığını da ölçeriz. İstediğin zaman . Ayrıntılar için çerez politikamıza bak.
ricursiveai/ripple-65b-previewYukarıdaki fiyatlarla bakiyenden çalışır. Yeni hesaplar ücretsiz kullanımla başlar.
Ayarlar
Ripple-65B-Preview, ricursiveAI tarafından önizleme sürümü olarak yayımlanan bir metin modelidir. BF16 olarak sunulan 65B parametreli bir modeldir ve metin kategorisinde yer alır, yani görüntü, ses veya diğer modaliteler yerine dil işlerine yöneliktir. Önizleme etiketi, bunun nihai ve oturmuş bir sürüm değil, modelin erken bir sürümü olduğunu gösterir.
Model girdi olarak metin alır ve çıktı olarak metin döndürür, bağlam penceresi 1.048.576 tokendır. Bu, uzun belgeler, kapsamlı kod dosyaları veya uzun konuşma geçmişleri gibi çok büyük girdileri çağrılar arasında bölmeden tek bir istekte tutmaya yetecek kadar yer sağlar. Maksimum çıktı 131.072 tokendır, yani yanıtlar da uzun olabilir. Yerel araç çağırma modelin kendisinin bir parçasıdır, bu da tanımladığınız fonksiyonları ne zaman çağıracağına karar verebileceği ve sonuçları yanıtına dahil edebileceği anlamına gelir.
Bu yetenekler birkaç pratik kullanım kalıbına işaret eder. Büyük bağlam, modelin tek seferde tüm bir derlem üzerinde akıl yürütmesi gereken görevlere uygundur: uzun bir sözleşmeyi incelemek, büyük bir kod tabanını özetlemek veya ayrı bir erişim adımı olmadan büyük bir belge kümesine karşı soruları yanıtlamak. Yerel araç çağırma, modelin bir API, bir veritabanı veya dahili bir hizmeti sorguladığı ve ardından dönen verilerle devam ettiği ajan tarzı iş akışlarına uygundur. Uzun çıktı sınırı, kısa bir yanıt yerine tam bir rapor, büyük bir yeniden düzenleme veya eksiksiz bir dosya gerektiğinde yardımcı olur.
Modeli api14'ün OpenAI uyumlu API'si üzerinden "ricursiveai/ripple-65b-preview" model id'siyle çağırabilirsiniz. Arayüz OpenAI formatını izlediği için mevcut OpenAI SDK'ları ve istemcileri, base URL ve model id değişikliğiyle çalışır. Desteklediği istek parametreleri logprobs, max_tokens, response_format, seed, temperature, tool_choice, tools, top_logprobs ve top_p'dir. Bu, temperature ve top_p ile örnekleme kontrolünü, seed ile deterministik çalışmaları, response_format ile yapılandırılmış çıktıyı ve tools ile tool_choice üzerinden fonksiyon çağırmayı kapsar. Token düzeyinde güven bilgisine ihtiyacınız varsa logprobs ve top_logprobs kullanılabilir.
Bu bir önizleme sürümü olduğundan, üretimde kullanmaya karar vermeden önce kendi iş yüklerinizle test etmeye ve daha yeni bir sürümün çıkıp çıkmadığını kontrol etmeye değer. Göreviniz küçükse veya gecikmeye duyarlıysa, 65B bir model ihtiyacınızdan fazla olabilir ve daha küçük bir model size daha iyi hizmet edebilir. İşiniz metin tabanlı değilse, bu model doğru seçim değildir, çünkü yalnızca metin kabul eder ve üretir.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "ricursiveai/ripple-65b-preview",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
logprobsmax_tokensresponse_formatseedtemperaturetool_choicetoolstop_logprobstop_pBu toplulukta henüz konu yok. Ricursive: Ripple 65B Preview hakkında ilk konuyu sen aç.