Amazon: Nova Micro 1.0

Amazon Nova Micro 1.0 هو نموذج نصي فقط من Amazon، وهو جزء من عائلة نماذج Nova. أصدرته Amazon في 5 ديسمبر 2024، وهو positioned كخيار أقل زمن وصول في تلك العائلة. وهو موجه للمطورين الذين يحتاجون إلى ردود نصية سريعة بدلا من إدخال أو إخراج متعدد الوسائط، لأن واجهات الإدخال والإخراج لديه نصية كلتاهما.

يقبل النموذج مطالبات نصية ويعيد إكمالات نصية. لديه نافذة سياق تبلغ 128,000 tokens، وهي كافية لاستيعاب مستندات طويلة أو محادثات ممتدة أو دفعات كبيرة من المواد المرجعية في طلب واحد. الحد الأقصى لإخراجه هو 5,120 tokens، لذا تكون الردود محدودة بهذا الطول بغض النظر عن مقدار الإدخال الذي ترسله. حد المعرفة لديه هو 31 أكتوبر 2024، مما يعني أن أي شيء بعد ذلك التاريخ يقع خارج ما تعلمه النموذج أثناء التدريب. لا توجد دعم للصور أو الصوت أو الفيديو في أي من الاتجاهين.

لأنه نصي فقط ومضبوط لزمن وصول منخفض، يناسب Nova Micro 1.0 الأعمال التي تكون فيها السرعة أهم من الاستدلال العميق. تشمل الاستخدامات النموذجية مساعدي الدردشة وروبوتات دعم العملاء التي تحتاج إلى ردود سريعة، وتصنيف النصوص الواردة وتوجيهها، وتلخيص المستندات الطويلة التي تتسع داخل نافذة السياق، واستخراج الحقول المنظمة من النص غير المنظم، وتوليد محتوى خفيف. كما تناسب تركيبة سياق 128,000 token وسقف إخراج 5,120 token التوليد المعزز بالاسترجاع، حيث تلصق المقاطع المسترجعة في المطالبة وتطلب إجابة قصيرة مستندة إليها. استدعاء الأدوات متاح، لذا يمكنه تشغيل استدعاءات الدوال في سير عمل بنمط الوكلاء حيث يقرر النموذج أي أداة يستدعي.

تستدعي النموذج عبر واجهة api14 المتوافقة مع OpenAI باستخدام معرف النموذج "amazon/nova-micro-v1". ولأن الواجهة تتبع شكل إكمالات الدردشة في OpenAI، يمكنك توجيه عميل OpenAI موجود إلى عنوان base URL الخاص بـ api14 وتغيير حقل model، دون أي تغييرات هيكلية أخرى في طلبك. معاملات الطلب المدعومة هي max_tokens و stop و temperature و tools و top_k و top_p. استخدم max_tokens لتحديد طول الرد ضمن حد الإخراج البالغ 5,120 token، و stop لإيقاف التوليد عند تسلسل مختار، و temperature مع top_p أو top_k للتحكم في عشوائية أخذ العينات، و tools للإعلان عن الدوال التي قد يستدعيها النموذج.

ضع القيود في الاعتبار عند اختيار هذا النموذج. فهو يتعامل مع النص فقط، لذا تحتاج المهام التي تتضمن صورا أو صوتا إلى نموذج مختلف. ويستبعد سقف الإخراج البالغ 5,120 token الردود الفردية الطويلة جدا، كما يعني حد المعرفة في أكتوبر 2024 أن الأحداث الحديثة غير مغطاة إلا إذا قدمتها في المطالبة. وإذا كانت المهمة تعتمد على استدلال أثقل أو إدخال متعدد الوسائط، فمن المرجح أن يكون نموذج آخر في الكتالوج أكثر ملاءمة.