हम cookies इस्तेमाल करते हैं. Cookies और ब्राउज़र स्टोरेज आपको साइन इन रखते हैं और आपकी प्राथमिकताएं याद रखते हैं। आपकी अनुमति से हम यह भी मापते हैं कि साइट कैसे इस्तेमाल होती है। आप कभी भी । हमारी cookie नीति देखें।
ricursiveai/ripple-65b-previewऊपर दी गई कीमतों पर आपके बैलेंस से चलता है। नए अकाउंट मुफ्त उपयोग से शुरू होते हैं।
Ripple-65B-Preview, ricursiveAI का एक टेक्स्ट मॉडल है, जिसे प्रीव्यू बिल्ड के रूप में जारी किया गया है। यह 65B पैरामीटर वाला मॉडल है जो BF16 में सर्व किया जाता है, और यह टेक्स्ट श्रेणी में आता है, इसलिए इसका उद्देश्य इमेज, ऑडियो या अन्य मोडैलिटी की बजाय भाषा से जुड़े काम हैं। प्रीव्यू लेबल यह दर्शाता है कि यह मॉडल का शुरुआती संस्करण है, न कि कोई अंतिम, स्थिर रिलीज़।
मॉडल इनपुट के रूप में टेक्स्ट लेता है और आउटपुट के रूप में टेक्स्ट लौटाता है, जिसका कॉन्टेक्स्ट विंडो 1,048,576 टोकन है। यह एक ही रिक्वेस्ट में बहुत बड़े इनपुट रखने के लिए पर्याप्त जगह है, जैसे लंबे दस्तावेज़, विस्तृत कोड फ़ाइलें या लंबी बातचीत का इतिहास, बिना उन्हें कई कॉल में बांटे। अधिकतम आउटपुट 131,072 टोकन है, इसलिए जवाब भी लंबे हो सकते हैं। नेटिव टूल कॉलिंग मॉडल का ही हिस्सा है, जिसका मतलब है कि यह तय कर सकता है कि आपके द्वारा परिभाषित फ़ंक्शन कब कॉल करने हैं और परिणामों को अपने उत्तर में शामिल करना है।
ये क्षमताएं कुछ व्यावहारिक पैटर्न की ओर इशारा करती हैं। बड़ा कॉन्टेक्स्ट उन कार्यों के लिए उपयुक्त है जहां मॉडल को एक साथ पूरे कॉर्पस पर तर्क करने की ज़रूरत होती है: किसी लंबे अनुबंध की समीक्षा करना, किसी बड़े कोडबेस का सारांश बनाना, या अलग रिट्रीवल चरण के बिना दस्तावेज़ों के बड़े सेट के आधार पर सवालों के जवाब देना। नेटिव टूल कॉलिंग एजेंट-शैली वर्कफ़्लो के लिए उपयुक्त है, जहां मॉडल किसी API, डेटाबेस या आंतरिक सेवा से क्वेरी करता है और फिर लौटाए गए डेटा से आगे बढ़ता है। लंबी आउटपुट सीमा तब मदद करती है जब आपको छोटे जवाब की बजाय पूरी रिपोर्ट, बड़ा रीफैक्टर या पूरी फ़ाइल चाहिए हो।
आप इसे api14 के OpenAI-संगत API के माध्यम से मॉडल id "ricursiveai/ripple-65b-preview" का उपयोग करके कॉल कर सकते हैं। चूंकि इंटरफ़ेस OpenAI प्रारूप का पालन करता है, मौजूदा OpenAI SDK और क्लाइंट बेस URL और मॉडल id बदलने के साथ काम करते हैं। यह जिन रिक्वेस्ट पैरामीटर का समर्थन करता है वे हैं logprobs, max_tokens, response_format, seed, temperature, tool_choice, tools, top_logprobs और top_p। इसमें temperature और top_p के जरिए सैंपलिंग नियंत्रण, seed के जरिए नियतात्मक रन, response_format के जरिए संरचित आउटपुट, और tools तथा tool_choice के जरिए फ़ंक्शन कॉलिंग शामिल है। यदि आपको टोकन-स्तर की विश्वास जानकारी चाहिए तो logprobs और top_logprobs उपलब्ध हैं।
चूंकि यह प्रीव्यू रिलीज़ है, इसे प्रोडक्शन में अपनाने से पहले अपने वर्कलोड पर परखना और यह जांचना उचित है कि कोई नया बिल्ड आया है या नहीं। यदि आपका कार्य छोटा है या लेटेंसी-संवेदनशील है, तो 65B मॉडल आपकी ज़रूरत से अधिक हो सकता है, और छोटा मॉडल आपके लिए बेहतर हो सकता है। यदि आपका काम टेक्स्ट-आधारित नहीं है, तो यह मॉडल सही नहीं है, क्योंकि यह केवल टेक्स्ट लेता और बनाता है।
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "ricursiveai/ripple-65b-preview",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
logprobsmax_tokensresponse_formatseedtemperaturetool_choicetoolstop_logprobstop_pइस कम्युनिटी में अभी कोई टॉपिक नहीं है। Ricursive: Ripple 65B Preview के बारे में पहला टॉपिक खोलें।
सेटिंग्स