ScaleDown: Classify-1

ScaleDown: Classify-1, ScaleDown का एक संरचित निर्णय मॉडल है, जो प्रदाता के Decisions API के माध्यम से उपलब्ध कराया जाता है। मुक्त रूप की prose उत्पन्न करने के बजाय, इसे उन प्रश्नों का उत्तर देने के लिए बनाया गया है जिन्हें आप पहले से परिभाषित करते हैं, जिससे यह सामान्य चैट श्रेणी के बजाय निर्णय श्रेणी में आता है। यदि आप api14 पर मॉडलों का मूल्यांकन कर रहे हैं, तो व्यावहारिक प्रश्न यह नहीं है कि यह कितना अच्छा लिखता है, बल्कि यह है कि क्या आपके कार्य को एक विकल्प, हाँ/नहीं प्रश्न, या क्रमबद्ध पैमाने के रूप में तैयार किया जा सकता है।

मॉडल इनपुट के रूप में text, images, और files स्वीकार करता है, इसलिए आप text का एक अंश, एक स्कैन किया गया पृष्ठ, या एक दस्तावेज़ भेज सकते हैं और उसका सीधे मूल्यांकन करा सकते हैं। इसकी आउटपुट modality decisions है: यह दिए गए इनपुट को आपके caller-defined प्रश्नों के विरुद्ध स्कोर करता है और calibrated probabilities लौटाता है। context window 1,000,000 tokens है, और अधिकतम आउटपुट 900,000 है, जिसका अर्थ है कि लंबे दस्तावेज़ और सामग्री के बड़े बैच chunking के बिना एक ही अनुरोध में संभाले जा सकते हैं। पार्स करने के लिए कोई free-text generation नहीं है, इसलिए आपको ऐसे वाक्यों के बजाय संरचित उत्तर मिलते हैं जिन्हें आपको व्याख्या करनी पड़े।

आउटपुट का यह स्वरूप उपयोगों के एक काफी विशिष्ट समूह की ओर संकेत करता है। Routing और triage स्वाभाविक रूप से उपयुक्त हैं: यह तय करना कि कोई ticket किस queue में जाता है, या क्या कोई आने वाला संदेश किसी मानव तक पहुँचने से पहले हाँ/नहीं शर्त को पूरा करता है। Document review भी एक है, क्योंकि files और images स्वीकार किए जाते हैं, इसलिए forms, invoices, या scanned records का श्रेणियों के एक निश्चित सेट के विरुद्ध वर्गीकरण संभव है। Ordered-scale प्रश्न sentiment या severity grading के लिए उपयुक्त हैं, और चूँकि मॉडल एक ही label के बजाय probabilities लौटाता है, आप अपनी confidence threshold सेट कर सकते हैं और कम confidence वाले मामलों को कहीं और भेज सकते हैं। कोई भी workflow जहाँ आपको कई items पर एक सुसंगत, दोहराने योग्य निर्णय चाहिए, उससे बेहतर मेल है जहाँ आपको लिखित व्याख्या चाहिए।

आप इसे api14 के OpenAI-compatible API के माध्यम से model id "scaledown/classify-1" का उपयोग करके कॉल करते हैं। चूँकि interface OpenAI-compatible है, मौजूदा clients और SDKs base URL और model id बदलने के साथ काम करते हैं। ध्यान दें कि समर्थित parameters की सूची खाली है, इसलिए आपको यह नहीं मानना चाहिए कि temperature या top_p जैसे sampling controls स्वीकार किए जाते हैं; model id, अपना input, और वे प्रश्न भेजें जिन्हें आप स्कोर कराना चाहते हैं, और defaults पर भरोसा करें। वर्तमान दरों के लिए इस पृष्ठ पर live price table देखें।

विचार करने योग्य मुख्य सीमा आउटपुट format ही है। Classify-1 निर्णय लौटाता है, prose नहीं, इसलिए यदि आपके application को लिखित सारांश, संवादात्मक उत्तर, या किसी भी प्रकार की generated content चाहिए, तो एक सामान्य text मॉडल बेहतर फिट होगा। यह भी पुष्टि करना उचित है कि आपके प्रश्न choices, yes/no, या ordered scale के रूप में व्यक्त किए जा सकते हैं, क्योंकि यही वह framing है जिसके इर्द-गिर्द मॉडल डिज़ाइन किया गया है। उन सीमाओं के भीतर, और इतने बड़े context window के साथ, यह high-volume classification के लिए एक उचित विकल्प है जहाँ आप ऐसी probabilities चाहते हैं जिन पर कार्रवाई कर सकें, न कि ऐसा text जिसे आपको पार्स करना पड़े।