Sao10K: Llama 3.1 Euryale 70B v2.2

Sao10K: Llama 3.1 Euryale 70B v2.2 هو نموذج نصي من Sao10K، وهو مزود معروف بعمليات الضبط الدقيق الموجهة للكتابة الإبداعية ولعب الأدوار. وهو مبني على Llama 3.1 70B وهو خلف Euryale L3 70B v2.1. يصفه المزود بأنه يركز على لعب الأدوار الإبداعي، لذا فهو يقع في مجال النماذج مفتوحة الأوزان المضبوطة للمحادثات القائمة على السرد والشخصيات بدلا من العمل العام كمساعد.

يستقبل النموذج النص ويعيد النص. تبلغ نافذة السياق لديه 131072 رمزا، وهي كبيرة بما يكفي لاحتواء محادثات طويلة أو مشاهد ممتدة أو مستندات كبيرة في طلب واحد. الحد الأقصى للمخرجات هو 16384 رمزا، لذا يمكن أن تكون الاستجابة الواحدة طويلة جدا، وإن كانت أصغر من نافذة الإدخال. حد المعرفة لديه هو 2023-12-31، وهذا مهم إذا كانت مهمتك تعتمد على أحداث بعد ذلك التاريخ. تشمل معاملات الطلب المدعومة temperature و top_p و top_k و min_p و repetition_penalty و frequency_penalty و presence_penalty و logit_bias و seed و stop و max_tokens و structured_outputs.

تتبع الاستخدامات العملية هذا الملف. لعب الأدوار الإبداعي والدردشة مع الشخصيات هما الأنسب بوضوح، لأن النموذج ضُبط من أجلهما. كما تناسب الرواية الطويلة واستكمال المشاهد ورواية القصص التفاعلية نافذة السياق الكبيرة، لأنه يمكنك الاحتفاظ بقدر كبير من السرد السابق في الطلب دون اقتطاعه. تمنحك معاملات أخذ العينات تحكما دقيقا في النبرة والتكرار، وهذا يساعد عندما تريد صوت شخصية متسقا عبر جلسة طويلة. يمكن أن تكون المخرجات المهيكلة مفيدة عندما تريد من النموذج إعادة شيء أكثر قابلية للتوقع من النثر الحر، على سبيل المثال ملخص مشهد أو مجموعة حقول داخل مسار لعب أدوار.

يمكنك استدعاؤه عبر واجهة برمجة التطبيقات المتوافقة مع OpenAI من api14 باستخدام معرف النموذج "sao10k/l3.1-euryale-70b". ولأن الواجهة متوافقة مع OpenAI، يمكنك توجيه عميل OpenAI موجود إلى عنوان URL الأساسي لـ api14 وتمرير ذلك المعرف في حقل model. يدعم الطلب المعاملات المذكورة أعلاه، لذا يمكنك ضبط temperature و top_p و top_k و min_p و repetition_penalty و frequency_penalty و presence_penalty و logit_bias و seed و stop و max_tokens و structured_outputs حسب الحاجة. ويغطي جدول الأسعار المباشر على الصفحة التكلفة.

أحد القيود التي يجب وضعها في الاعتبار هو حد المعرفة 2023-12-31، لذا فإن أي شيء يتطلب معلومات أحدث لن يأتي من النموذج نفسه. كما أن سقف المخرجات البالغ 16384 رمزا يعني أن الاستكمالات الطويلة جدا تحتاج إلى البناء عبر استدعاءات متعددة. وإذا كانت مهمتك هي الإجابة على أسئلة واقعية أو توليد الشيفرة أو استخدام الأدوات بدلا من الكتابة الإبداعية، فقد يكون نموذج عام أكثر ملاءمة.