ReMM SLERP 13B

ReMM SLERP 13B هو نموذج توليد نصوص أصدرته Undi95 في 22 يوليو 2023. ويصفه مزوّده بأنه محاولة لإعادة إنشاء النموذج الأصلي MythoMax-L2-B13 باستخدام نماذج محدّثة، وهو موزّع كدمج (merge)، أي أن أوزانه جُمعت من نماذج أخرى مضبوطة بدقة (fine-tuned) بدلاً من تدريبها من الصفر. وUndi95 ناشر نماذج مستقل معروف بعمليات الدمج المجتمعية، لذا فهذا نموذج مبني من المجتمع وليس إصداراً من طرف أول من مختبر كبير.

يعمل النموذج مع إدخال نصي وينتج إخراجاً نصياً فقط. نافذة السياق لديه 6,144 رمزاً (token) والحد الأقصى للإخراج 5,529 رمزاً، لذا فإن المطالبات الطويلة تترك مساحة أقل مقابل ذلك للرد. وحد المعرفة لديه هو 30 يونيو 2023، ما يعني أن أي شيء بعد ذلك التاريخ يقع خارج ما تعلّمه أثناء التدريب. وضمن هذه الحدود يتصرف كنموذج محادثة عام يتبع التعليمات، ويمكن توجيهه بضوابط أخذ العينات المعتادة.

ولأنه نموذج نصي عام الغرض بنافذة سياق متواضعة، فهو يناسب مهام مثل المحادثة والحوار، والكتابة وإعادة الصياغة القصيرة، وتلخيص المقاطع التي تتسع داخل السياق، والإجابة عن الأسئلة اعتماداً على نص مقدّم، والأعمال الإبداعية الخفيفة مثل كتابة الشخصيات أو السيناريوهات. وسلالة الدمج التي تعود إلى MythoMax-L2-B13 تجعله خياراً معقولاً للمطالبات الحوارية وأسلوب لعب الأدوار، حيث يميل ضبطه إلى إنتاج ردود أكثر تعبيراً من نموذج أساسي عادي. وهو ليس مناسباً للمستندات الطويلة جداً، لأن 6,144 رمزاً تغطي بضع آلاف من الكلمات فقط، وليس لديه إدخال صور أو صوت أو أي إدخال غير نصي.

يمكنك استدعاؤه عبر واجهة API المتوافقة مع OpenAI من api14 باستخدام معرّف النموذج "undi95/remm-slerp-l2-13b". وجّه عميل OpenAI الحالي لديك إلى عنوان api14 الأساسي وأرسل طلب إكمال محادثة بذلك المعرّف، وستبقى أشكال الطلب والاستجابة كما هي في OpenAI. يدعم النموذج frequency_penalty وlogit_bias وlogprobs وmax_tokens وmin_p وpresence_penalty وrepetition_penalty وresponse_format وseed وstop وstructured_outputs وtemperature وtop_a وtop_k وtop_logprobs وtop_p. ويغطي ذلك معاملات أخذ العينات القياسية بالإضافة إلى بعض الإضافات: min_p وtop_a وrepetition_penalty لتحكم أدق في أخذ العينات، وseed لتشغيلات قابلة للتكرار، وresponse_format وstructured_outputs عندما تحتاج إلى الإخراج بشكل محدد.

هناك حدّان يجدر تذكّرهما. فسياق 6,144 رمزاً وسقف الإخراج البالغ 5,529 رمزاً يستبعدان العمل على المستندات الطويلة أو قواعد الشيفرة الكبيرة، كما أن حد المعرفة في يونيو 2023 يعني أن النموذج لن يعرف أي شيء أحدث من ذلك. وإذا كانت مهمتك تحتاج نافذة سياق أكبر بكثير، أو معرفة بالعالم الحالي، أو إدخالاً غير نصي، فسيخدمك نموذج آخر على api14 بشكل أفضل.