Mistral: Mixtral 8x22B Instruct

Mistral: Mixtral 8x22B Instruct هو نموذج نصي من Mistral، أصدره المزوّد في 17 أبريل 2024. وهو النسخة الرسمية المضبوطة بالتعليمات (instruct fine-tuned) من Mixtral 8x22B، وهو تصميم متناثر لمزيج الخبراء (sparse mixture-of-experts) يستخدم 39B معاملًا نشطًا من أصل 141B. يهيّئ الضبط بالتعليمات النموذج الأساسي لاتباع التوجيهات والإجابة عن الطلبات مباشرة، وهو ما يريده معظم مطوّري التطبيقات عند استدعاء نموذج عبر API.

يستقبل النموذج مدخلات نصية وملفات ويعيد نصًا. نافذة السياق لديه 65,536 رمزًا (token)، والحد الأقصى للمخرجات 52,428 رمزًا، لذا فإن المدخلات الطويلة والتوليدات الطويلة ممكنان معًا ضمن الطلب نفسه. حد المعرفة هو 31 يناير 2024، ما يعني أن أي شيء بعد ذلك التاريخ يقع خارج ما دُرّب عليه النموذج. تُبرز Mistral قوة الرياضيات والبرمجة كميزتين خاصتين لهذا النموذج، إلى جانب كفاءة التكلفة بالنسبة لحجمه.

تشير هذه القدرات إلى مجموعة واسعة نسبيًا من الاستخدامات العملية. يناسب السياق الطويل العمل على مستندات كبيرة، سواء كان ذلك تلخيص تقرير طويل، أو استخراج تفاصيل منظمة من ملف، أو الإجابة عن أسئلة استنادًا إلى مجموعة نصية مقدَّمة في الطلب (prompt). تجعل قوة الرياضيات والبرمجة النموذج مناسبًا لمساعدة البرمجة، مثل شرح الشيفرة أو توليدها، وللمهام الكمية التي تحتاج إلى استدلال خطوة بخطوة. ولأنه يقبل الملفات كمدخلات، يمكن استخدامه في خطوط المعالجة (pipelines) التي تُمرَّر فيها المستندات مباشرة بدلًا من لصقها كنص عادي. كما أن استدعاء الأدوات (tool calling) والمخرجات المنظمة (structured outputs) يجعلانه مناسبًا لسير العمل على نمط الوكلاء (agents) ولإنتاج ردود يمكن للشيفرة اللاحقة تحليلها.

تستدعيه عبر API المتوافق مع OpenAI من api14 باستخدام معرّف النموذج "mistralai/mixtral-8x22b-instruct". معاملات الطلب المدعومة هي frequency_penalty و max_tokens و presence_penalty و response_format و seed و stop و structured_outputs و temperature و tool_choice و tools و top_p. عمليًا، يغطي ذلك ضوابط أخذ العينات المعتادة (temperature، top_p، العقوبات، seed، stop)، وطول المخرجات عبر max_tokens، وتشكيل الردود عبر response_format و structured_outputs، واستدعاء الدوال عبر tools و tool_choice. إذا كانت لديك شيفرة مكتوبة أصلًا وفق شكل chat completions من OpenAI، فإن التبديل إلى هذا النموذج هو في الغالب مجرد تغيير معرّف النموذج.

من الأمور التي يجب مراعاتها حد المعرفة في 31 يناير 2024، لذا فإن الأسئلة عن أحداث لاحقة لن يُجاب عنها من بيانات التدريب وقد تحتاج إلى استرجاع (retrieval) أو سياق مقدَّم في الطلب. النموذج نصي فقط على جانب المخرجات، لذا فإن المهام التي تتطلب توليد صور أو صوت تقع خارج نطاقه. إذا كان عبء عملك يعتمد على معلومات حديثة جدًا أو على وسائط تتجاوز النص والملفات كمدخلات، فقد يكون نموذج آخر أنسب.