Writer: Palmyra X5

लेखक: Palmyra X5, Writer का एक टेक्स्ट मॉडल है, जो api14 पर मॉडल आईडी writer/palmyra-x5 के तहत सूचीबद्ध है। Writer इसे अपना सबसे उन्नत मॉडल बताता है, जो एंटरप्राइज़ में AI एजेंट बनाने और स्केल करने के लिए विशेष रूप से तैयार किया गया है। यह टेक्स्ट श्रेणी में आता है, इसलिए इसका उद्देश्य भाषा कार्य है, न कि छवि, ऑडियो या अन्य मोडलिटी।

मॉडल टेक्स्ट इनपुट लेता है और टेक्स्ट आउटपुट देता है। इसकी कॉन्टेक्स्ट विंडो 1,040,000 टोकन है, जो दस लाख टोकन से थोड़ा अधिक है, और अधिकतम आउटपुट 8,192 टोकन है। Writer का अपना विवरण 1 मिलियन टोकन तक की कॉन्टेक्स्ट विंडो पर उद्योग-अग्रणी गति और दक्षता पर जोर देता है, इसलिए बड़ी विंडो डिज़ाइन का जानबूझकर किया गया हिस्सा है, न कि कोई संयोग का आंकड़ा। यहाँ कोई विज़न या ऑडियो इनपुट नहीं है; आप जो कुछ भी भेजते हैं वह टेक्स्ट होना चाहिए।

बहुत बड़ी कॉन्टेक्स्ट विंडो और सीमित आउटपुट सीमा का यह संयोजन व्यावहारिक उपयोग मामलों को आकार देता है। लंबे दस्तावेज़, बड़े कोडबेस, विस्तृत ट्रांसक्रिप्ट और बहु-दस्तावेज़ सेट बिना चंकिंग के एक ही अनुरोध में दिए जा सकते हैं, जो रिट्रीवल-भारी एजेंट वर्कफ़्लो, लंबे स्रोतों पर सारांशीकरण, बड़ी संदर्भ सामग्री पर आधारित प्रश्न उत्तर, और निष्कर्षण कार्यों के लिए उपयुक्त है, जहाँ उत्तर छोटा होता है लेकिन प्रमाण कई पृष्ठों में फैला होता है। चूंकि आउटपुट 8,192 टोकन तक सीमित है, यह सबसे अच्छा तब फिट बैठता है जब आपको लंबे जनरेट किए गए दस्तावेज़ के बजाय केंद्रित प्रतिक्रिया चाहिए।

आप इसे api14 के OpenAI-संगत API के माध्यम से मॉडल आईडी writer/palmyra-x5 का उपयोग करके कॉल करते हैं, इसलिए मौजूदा OpenAI क्लाइंट लाइब्रेरी और अनुरोध संरचनाएँ बिना विशेष हैंडलिंग के काम करती हैं। समर्थित अनुरोध पैरामीटर max_tokens, stop, temperature, top_k और top_p हैं। 8,192 आउटपुट सीमा के भीतर प्रतिक्रिया को सीमित करने के लिए max_tokens का उपयोग करें, जनरेशन कहाँ रुके यह परिभाषित करने के लिए stop, और सैंपलिंग नियंत्रित करने के लिए temperature, top_k और top_p। कोई अन्य पैरामीटर समर्थित के रूप में सूचीबद्ध नहीं है, इसलिए अनुरोधों को इसी सेट तक सीमित रखें।

योजना बनाते समय ध्यान रखने योग्य मुख्य बाधा 8,192 टोकन की आउटपुट सीमा है। यदि आपका कार्य एक ही पास में लंबी रिपोर्ट, पूरी फ़ाइल या विस्तृत गद्यांश बनाना है, तो यह मॉडल आपके पूरा होने से पहले काट देगा, और बड़ी आउटपुट अनुमति वाला मॉडल बेहतर फिट हो सकता है। Palmyra X5 सबसे मजबूत तब होता है जब इनपुट बड़ा हो और आवश्यक उत्तर तुलनात्मक रूप से छोटा हो।