Nous: Hermes 3 405B Instruct

Nous Hermes 3 405B Instruct هو نموذج توليد نصوص من Nous Research، صدر في 16 أغسطس 2024. وهو نموذج لغوي عام بُني كترقية على Hermes 2، ويصف المزود تحسينات في القدرات الوكيلية ولعب الأدوار والاستدلال والمحادثة متعددة الأدوار وتماسك السياق الطويل. معرّف النموذج على api14 هو nousresearch/hermes-3-llama-3.1-405b.

يقبل النموذج إدخال نصي ويعيد إخراج نصي، لذا يناسب أحمال العمل القياسية بنمط المحادثة والإكمال. نافذة السياق لديه هي 131,072 رمزًا والحد الأقصى للإخراج 16,384 رمزًا، ما يعني أنه يمكنك إرسال مطالبات أو مستندات أو سجلات محادثة طويلة جدًا مع إبقاء مساحة لرد كبير. حد المعرفة لديه هو 31 ديسمبر 2023، لذا فإن أي شيء بعد ذلك التاريخ يقع خارج ما تعلمه أثناء التدريب.

بسبب السياق الطويل والتركيز على المحادثة متعددة الأدوار والسلوك الوكيلي، يناسب النموذج مهامًا مثل الإجابة على الأسئلة من مستندات طويلة، والتلخيص أو الاستخراج من مدخلات كبيرة، والحفاظ على حوار متماسك عبر أدوار عديدة، وبناء وكلاء يستخدمون الأدوات أو يعملون على خطوات متعددة. كما أن تحسينات لعب الأدوار والاستدلال تجعله خيارًا معقولًا للمحادثة القائمة على الشخصيات، والعصف الذهني المنظم، والمهام التي يجب فيها على النموذج اتباع شخصية أو مجموعة تعليمات مفصلة على مدى جلسة طويلة.

يمكنك استدعاؤه عبر واجهة api14 المتوافقة مع OpenAI باستخدام معرّف النموذج nousresearch/hermes-3-llama-3.1-405b، ما يعني أن حزم تطوير البرامج والعملاء الحاليين لـ OpenAI يعملون مع تغيير عنوان URL الأساسي والمفتاح فقط. معاملات الطلب التي يدعمها هي frequency_penalty و logit_bias و max_tokens و min_p و presence_penalty و repetition_penalty و response_format و seed و stop و structured_outputs و temperature و top_k و top_p. وجود response_format و structured_outputs مفيد عندما تحتاج إلى إخراج بصيغة JSON أو بشكل مخطط بدلًا من نص حر، ويساعد seed عندما تريد توليدات أكثر قابلية للتكرار.

ضع سقف الإخراج في اعتبارك: 16,384 رمزًا سخي بالنسبة لمعظم ردود المحادثة لكنه ليس كذلك لتوليد مستندات طويلة جدًا في استدعاء واحد، لذا خطط للتقسيم إلى أجزاء إذا احتجت أكثر من ذلك. كما أن حد المعرفة في 31 ديسمبر 2023 يعني أن الأسئلة الحساسة زمنيًا تحتاج إلى استرجاع أو سياق جديد يُقدَّم في المطالبة. إذا كان حملك نصيًا بحتًا ويناسب هذه الحدود، فهذا النموذج خيار مباشر؛ وإذا احتجت إدخال صور أو صوت، فستحتاج إلى نموذج مختلف، لأن هذا النموذج يتعامل مع النصوص فقط.