Meta: Llama 3.1 70B Instruct

ميتا: Llama 3.1 70B Instruct هو نموذج لتوليد النصوص من ميتا، وهو جزء من عائلة Llama 3.1 التي أُطلقت في 23 يوليو 2024. وهو الإصدار ذو 70 مليار معامل، والمضبوط لاتباع التعليمات، ما يعني أنه مصمم للاستجابة للمطالبات وإجراء الحوار بدلاً من مجرد متابعة نص خام. وتضع ميتا هذا المتغير التعليمي كنسخة محسّنة لحالات استخدام الحوار عالية الجودة، وهو يقع في منتصف نطاق Llama 3.1 من حيث الحجم.

يقبل النموذج النص كمدخل ويعيد النص كمخرج، لذا فهو نموذج لغوي خالص لا يتعامل مع الصور أو الصوت أو الفيديو. ونافذة السياق لديه هي 131,072 رمزاً، وهي كبيرة بما يكفي لاستيعاب مستندات طويلة أو محادثات ممتدة أو ملفات برمجية ضخمة في طلب واحد. والحد الأقصى لطول المخرج هو 16,384 رمزاً، لذا يمكن أن تكون الردود كبيرة لكنها محدودة بأقل بكثير من حد الإدخال. وحد المعرفة لديه هو 31 ديسمبر 2023، ما يعني أن أي شيء بعد ذلك التاريخ يقع خارج ما تعلمه أثناء التدريب.

تشير هذه الخصائص إلى مجموعة واضحة إلى حد ما من الاستخدامات العملية. فالسياق الطويل يناسب التلخيص والإجابة على الأسئلة حول مستندات مطولة، ومراجعة العقود، وتجميع الأبحاث، والدردشة متعددة الأدوار حيث يجب أن تبقى الأجزاء السابقة من المحادثة في مجال الرؤية. ويجعل الضبط التعليمي منه خياراً معقولاً للمساعدين، والصياغة، وإعادة الكتابة، والتصنيف، ومهام الاستخراج. ولأن النموذج يدعم استدعاء الأدوات والمخرجات المنظمة، يمكن استخدامه أيضاً في خطوط المعالجة حيث يحتاج النموذج إلى إعادة البيانات بشكل محدد أو استدعاء دوال خارجية بدلاً من إنتاج نص حر فقط.

يمكنك استدعاؤه عبر واجهة api14 المتوافقة مع OpenAI باستخدام معرّف النموذج meta-llama/llama-3.1-70b-instruct. ولأن الواجهة تتبع مخطط OpenAI، يمكنك توجيه عميل OpenAI موجود إلى عنوان URL الأساسي الخاص بـ api14 وتمرير ذلك المعرّف في حقل model. ومعاملات الطلب التي يدعمها هي frequency_penalty و logit_bias و max_tokens و min_p و presence_penalty و repetition_penalty و response_format و seed و stop و structured_outputs و temperature و tool_choice و tools و top_k و top_p. ويغطي ذلك ضوابط أخذ العينات المعتادة، والمخرجات الحتمية عبر seed، وتسلسلات الإيقاف، ووضعي استدعاء الأدوات والمخرجات المنظمة.

هناك بعض الحدود التي يجدر تذكرها عند اتخاذ القرار. فالمخرج محدود بـ 16,384 رمزاً حتى مع أن نافذة السياق أكبر بكثير، لذا قد تتطلب المهام التي تحتاج إلى ردود فردية طويلة جداً التقسيم أو نموذجاً مختلفاً. ويعني حد المعرفة في 31 ديسمبر 2023 أن الأحداث الحديثة غير مغطاة إلا إذا قمت بتزويدها في المطالبة. ولأن الإدخال والمخرج نصيان فقط، فإن أي شيء يتعلق بالصور أو الصوت يقع خارج ما يمكن لهذا النموذج فعله.