MythoMax 13B

MythoMax 13B هو نموذج نصي من Gryphe، معرّف على api14 باسم gryphe/mythomax-l2-13b. وهو نسخة مضبوطة بدقة (fine-tune) من Llama 2 13B، أُنتج عبر الدمج بدلاً من جولة تدريب واحدة، ويصفه Gryphe بأنه واحد من أعلى النماذج المضبوطة بدقة أداءً وأكثرها شعبية لذلك النموذج الأساسي. يقع في فئة النصوص، لذا هو مبني للعمل اللغوي وليس للصور أو الصوت أو غيرها من الأنماط.

يأخذ النموذج النص كمدخل ويعيد النص كمخرج. لديه نافذة سياق تبلغ 8192 رمزاً (token)، وهي تغطي مطالبة طويلة إلى حد معقول بالإضافة إلى الرد المولّد، وأقصى مخرج له هو 3686 رمزاً. حد المعرفة لديه هو 30 يونيو 2023، لذا أي شيء بعد ذلك التاريخ يقع خارج ما تعلمه أثناء التدريب. يبرز Gryphe الأوصاف الغنية ولعب الأدوار كقوتين خاصتين بهذه النسخة المضبوطة بدقة، وهو مؤشر مفيد حول نوع النثر الذي يميل إلى إنتاجه.

تشير تلك الخصائص إلى مجموعة استخدامات محددة إلى حد ما. تجعل قوتا لعب الأدوار والوصف الغني النموذج مناسباً بشكل طبيعي للخيال التفاعلي، والدردشة المدفوعة بالشخصيات، وتوليد السرد أو الحوار حيث تكون النبرة والتفاصيل مهمة. تتيح نافذة السياق البالغة 8192 رمزاً إبقاء محادثة طويلة مستمرة أو مشهد كبير في العرض دون تقليم مستمر، ويدعم سقف المخرج البالغ 3686 رمزاً ردوداً تمتد إلى عدة فقرات. وبعيداً عن الكتابة الإبداعية، يعمل في توليد النصوص العام والمساعدين بأسلوب الدردشة، رغم أن حد المعرفة يعني أنه لا ينبغي الاعتماد عليه في الأسئلة عن أحداث بعد يونيو 2023.

تستدعيه عبر واجهة API المتوافقة مع OpenAI الخاصة بـ api14 باستخدام معرّف النموذج gryphe/mythomax-l2-13b، لذا تعمل مكتبات عميل OpenAI الحالية وأشكال الطلبات مع تغيير اسم النموذج فقط. معاملات الطلب المدعومة هي frequency_penalty و logit_bias و logprobs و max_tokens و min_p و presence_penalty و repetition_penalty و response_format و seed و stop و structured_outputs و temperature و top_a و top_k و top_logprobs و top_p. هذه واجهة أخذ عينات وتحكم واسعة: إعدادات temperature و top_p و top_k والعقوبات المعتادة، بالإضافة إلى min_p و top_a و repetition_penalty، وهي شائعة في سير عمل النسخ المضبوطة بدقة المجتمعية. يمنحك seed أخذ عينات قابلاً لإعادة الإنتاج، وتتيح لك تسلسلات stop قطع التوليد عند سلسلة مختارة، ويكشف logprobs مع top_logprobs الاحتمالات على مستوى الرمز. يتوفر response_format و structured_outputs إذا احتجت إلى تشكيل المخرج بطريقة معينة.

الحدود الرئيسية التي يجب تذكرها هي سياق 8192 رمزاً وسقف المخرج 3686 رمزاً، إلى جانب حد المعرفة في يونيو 2023. إذا كانت مهمتك تحتاج إلى سياق أكبر بكثير، أو معرفة أحدث، أو مدخل غير نصي، فإن نموذجاً مختلفاً على api14 سيكون أنسب. للكتابة الإبداعية ودردشة الشخصيات وتوليد النصوص العام ضمن تلك الحدود، هذا النموذج خيار معقول.