Amazon: Nova Lite 1.0

Amazon Nova Lite 1.0, Amazon का एक टेक्स्ट जनरेशन मॉडल है, जिसे 5 दिसंबर 2024 को जारी किया गया था। यह Amazon के Nova मॉडल परिवार में शामिल है और मल्टीमॉडल काम के लिए एक तेज़, कम लागत वाले विकल्प के रूप में स्थित है। मॉडल को api14 पर amazon/nova-lite-v1 के रूप में पहचाना जाता है, और Amazon इसके पीछे डेवलपर और प्रोवाइडर दोनों है।

मॉडल टेक्स्ट और इमेज इनपुट स्वीकार करता है और टेक्स्ट आउटपुट देता है। इसकी कॉन्टेक्स्ट विंडो 300,000 टोकन है, जो बहुत लंबे दस्तावेज़ों, लंबी बातचीत, या इमेज और टेक्स्ट के बड़े संग्रह को एक ही अनुरोध में संभालने की अनुमति देती है। अधिकतम आउटपुट 5,120 टोकन है, इसलिए इनपुट बड़ा होने पर भी प्रतिक्रियाएँ सीमित रहती हैं। इसका नॉलेज कटऑफ 31 अक्टूबर 2024 है, यानी इसके पास उस तारीख के बाद की घटनाओं की जानकारी नहीं है, जब तक कि वह जानकारी प्रॉम्प्ट में न दी जाए। Amazon मॉडल को इमेज, वीडियो, और टेक्स्ट इनपुट की तेज़ प्रोसेसिंग पर केंद्रित बताता है ताकि टेक्स्ट आउटपुट जनरेट हो सके, इसलिए मल्टीमॉडल इनपुट पर गति इसके डिज़ाइन का केंद्रीय हिस्सा है।

ये क्षमताएँ कुछ व्यावहारिक उपयोगों की ओर इशारा करती हैं। चूँकि यह टेक्स्ट के साथ इमेज भी पढ़ता है, यह इमेज सामग्री का वर्णन या सारांश बनाने, स्क्रीनशॉट या स्कैन किए गए दस्तावेज़ों से जानकारी निकालने, और तस्वीरों तथा लिखित निर्देशों के मिश्रण पर निर्भर प्रश्नों के उत्तर देने जैसे कामों के लिए उपयुक्त है। 300,000 टोकन का कॉन्टेक्स्ट इसे लंबी रिपोर्टों, लंबे चैट इतिहास, या ऐसी सामग्री के बैचों के लिए व्यावहारिक बनाता है जो छोटी विंडो में नहीं समा सकती। 5,120 टोकन की आउटपुट सीमा का मतलब है कि यह एक ही कॉल में बहुत लंबे दस्तावेज़ बनाने की तुलना में सारांश, उत्तर, वर्गीकरण, और छोटे जनरेट किए गए अंशों के लिए अधिक उपयुक्त है। ऐसे सहायक बनाने वाले डेवलपर जिन्हें इमेज देखकर टेक्स्ट में जवाब देना होता है, या ऐसी पाइपलाइनें जिन्हें मिश्रित इनपुट की बड़ी मात्रा तेज़ी से प्रोसेस करनी होती है, इसके स्वाभाविक उपयोगकर्ता हैं।

आप मॉडल को api14 के OpenAI-संगत API के ज़रिए model id amazon/nova-lite-v1 का उपयोग करके कॉल करते हैं। चूँकि इंटरफ़ेस OpenAI प्रारूप का पालन करता है, मौजूदा OpenAI क्लाइंट लाइब्रेरी और अनुरोध संरचनाएँ आम तौर पर केवल मॉडल नाम बदलने के साथ काम करती हैं। समर्थित अनुरोध पैरामीटर max_tokens, stop, temperature, tools, top_k, और top_p हैं। tools पैरामीटर का मतलब है कि फ़ंक्शन या टूल कॉलिंग उपलब्ध है, इसलिए मॉडल को एजेंट-शैली सेटअप में उपयोग किया जा सकता है जहाँ यह तय करता है कि बाहरी फ़ंक्शन को कब कॉल करना है। temperature, top_k, और top_p सैंपलिंग पर नियंत्रण देते हैं, जबकि stop आपको ऐसे अनुक्रम परिभाषित करने देता है जो जनरेशन समाप्त करते हैं और max_tokens प्रतिक्रिया की लंबाई सीमित करता है।

प्रतिबद्ध होने से पहले कुछ सीमाएँ विचार करने योग्य हैं। आउटपुट 5,120 टोकन तक सीमित है, इसलिए यदि आपको बहुत लंबी एकल प्रतिक्रियाएँ चाहिए, तो अधिक आउटपुट सीमा वाला मॉडल बेहतर फिट हो सकता है। 31 अक्टूबर 2024 का नॉलेज कटऑफ का मतलब है कि बाद की घटनाओं के बारे में प्रश्नों के लिए प्रॉम्प्ट में प्रासंगिक कॉन्टेक्स्ट शामिल करना होगा। मॉडल केवल टेक्स्ट आउटपुट देता है, इसलिए यह इमेज जनरेट नहीं कर सकता। यदि आपका काम पूरी तरह टेक्स्ट आधारित है और इमेज इनपुट या बहुत बड़े कॉन्टेक्स्ट से लाभ नहीं उठाता, तो एक सरल टेक्स्ट-केवल मॉडल पर्याप्त हो सकता है।