Nous: Hermes 3 70B Instruct

Nous: Hermes 3 70B Instruct هو نموذج توليد نص من Nous Research، مبني على قاعدة Llama 3.1 70B. وهو الجيل الثالث من سلسلة Hermes، وتصفه Nous بأنه نموذج لغوي عام مع تحسينات على Hermes 2، تشمل قدرات وكيلية متقدمة، وأداء أفضل في لعب الأدوار، والاستدلال، والمحادثة متعددة الأدوار، والتماسك في السياق الطويل. أصدر المزود النموذج في 18 أغسطس 2024، وحد المعرفة الخاص به هو 31 ديسمبر 2023.

يقبل النموذج إدخال نص ويعيد إخراج نص، لذا فهو نموذج لغوي خالص لا يتعامل مع الصور أو الصوت. نافذة السياق الخاصة به هي 131,072 رمزا، وهي كبيرة بما يكفي لاستيعاب مستندات طويلة، أو محادثات ممتدة، أو ملفات برمجية كبيرة في طلب واحد. الحد الأقصى للإخراج هو 16,384 رمزا، لذا يمكن أن تكون الردود طويلة، لكنها محدودة بأقل بكثير من حجم سياق الإدخال. ولأن السياق طويل والنموذج مضبوط للتماسك عبره، يمكن استخدامه في المهام التي تحتاج فيها الأجزاء السابقة من محادثة أو مستند إلى البقاء ذات صلة بعد عدة أدوار.

تشير هذه القدرات إلى بعض الاستخدامات العملية. سير العمل الوكيلي هو نقطة قوة معلنة، لذا فإن استدعاء الأدوات وتنسيق المهام متعددة الخطوات مناسبين بشكل معقول. تناسب التحسينات في لعب الأدوار والمحادثة متعددة الأدوار مساعدي الدردشة، والتطبيقات القائمة على الشخصيات، والتجارب التفاعلية التي تحتاج إلى شخصية متسقة وذاكرة على مدى جلسة طويلة. يجعل الاستدلال والتماسك في السياق الطويل النموذج قابلا للاستخدام في الإجابة على أسئلة المستندات، وتلخيص المواد الطويلة، ومساعدة البرمجة حيث يجب النظر إلى ملف كامل أو قسم من مستودع دفعة واحدة. كما يتم دعم المخرجات المهيكلة، وهو أمر مفيد عندما يجب أن يعيد النموذج بيانات بشكل ثابت لتحليلها لاحقا.

يمكنك استدعاء النموذج عبر واجهة api14 المتوافقة مع OpenAI باستخدام معرف النموذج "nousresearch/hermes-3-llama-3.1-70b". ولأن نقطة النهاية تتبع تنسيق إكمال الدردشة من OpenAI، فإن حزم تطوير البرامج والعملاء الحاليين من OpenAI يعملون مع تغيير عنوان URL الأساسي والمفتاح فقط. معاملات الطلب المدعومة هي frequency_penalty، وlogit_bias، وmax_tokens، وmin_p، وpresence_penalty، وrepetition_penalty، وseed، وstop، وstructured_outputs، وtemperature، وtop_k، وtop_p. يسمح المعامل seed بأخذ عينات قابلة للتكرار، ويقيد structured_outputs التوليد بمخطط محدد. لاحظ أن min_p وrepetition_penalty وtop_k ليست جزءا من مجموعة معاملات OpenAI القياسية، لذا تحقق من أن عميلك يمررها بدلا من إسقاط الحقول غير المعروفة.

القيود الرئيسية التي يجب وضعها في الاعتبار هي الإدخال والإخراج النصيان فقط، وسقف الإخراج البالغ 16,384 رمزا، وحد المعرفة في 31 ديسمبر 2023، لذا فإن أي شيء بعد ذلك التاريخ يقع خارج بيانات تدريب النموذج. إذا كانت مهمتك تعتمد على إدخال صور أو صوت، فلن يناسبك هذا النموذج، وستحتاج بدلا منه إلى نموذج متعدد الوسائط. بالنسبة للعمل الذي يقع ضمن النص وحدود السياق والإخراج المذكورة، فإن Hermes 3 70B Instruct خيار مباشر عبر بوابة api14.