Meta: Llama 3.1 8B Instruct

ميتا: Llama 3.1 8B Instruct هو نموذج نصي مُدرَّب على التعليمات من ميتا، وهو جزء من عائلة Llama 3.1 التي أُطلقت في يوليو 2024. يقع حجم 8B في الطرف الأصغر من تلك العائلة، مما يجعله خياراً افتراضياً معقولاً عندما تريد مساعداً عام الأغراض قادراً دون ثقل نموذج أكبر بكثير. إنه نموذج نصي فقط، لذا يعمل جيداً في المحادثة والصياغة والاستخراج والمهام اللغوية المشابهة، بدلاً من أي شيء يتعلق بالصور أو الصوت.

يستقبل النموذج النص ويُخرج النص. يدعم نافذة سياق تبلغ 131,072 رمزاً، وهي كبيرة بما يكفي لاستيعاب مستندات طويلة أو محادثات ممتدة أو ملفات برمجية كبيرة الحجم في طلب واحد. الحد الأقصى للإخراج هو 117,964 رمزاً، لذا فإن التوليدات الطويلة ممكنة ضمن تلك النافذة. حد المعرفة الخاص به هو 2023-12-31، مما يعني أن الأحداث والمعلومات بعد ذلك التاريخ ليست جزءاً من بيانات تدريبه. عندما تعتمد الدقة على حقائق حديثة، ينبغي عليك تزويد السياق ذي الصلة بنفسك بدلاً من الاعتماد على ذاكرة النموذج.

تشير تلك الخصائص إلى استخدامات عملية قليلة. التلخيص والإجابة عن الأسئلة على مدخلات طويلة يتناسبان جيداً مع نافذة السياق الكبيرة. اتباع التعليمات يجعله مناسباً لمساعدي المحادثة وإعادة الصياغة والتصنيف واستخراج البيانات المهيكلة من نص غير منظم. ولأنه يقبل الأدوات والمخرجات المهيكلة، يمكنه أيضاً أن يخدم كخطوة الاستدلال في مسار يستدعي دوال أو يُرجع JSON. يُبقي حجم 8B زمن الاستجابة واستخدام الموارد منخفضين نسبياً، مما يساعد عندما تشغّل طلبات كثيرة أو تبني نموذجاً أولياً لفكرة قبل الالتزام بنموذج أكبر.

يمكنك استدعاؤه عبر واجهة API المتوافقة مع OpenAI من api14 باستخدام معرّف النموذج meta-llama/llama-3.1-8b-instruct. وجّه عميل OpenAI الحالي لديك إلى عنوان api14 الأساسي ومرّر ذلك المعرّف في الحقل model. يقبل النموذج frequency_penalty و logit_bias و logprobs و max_tokens و min_p و presence_penalty و repetition_penalty و response_format و seed و stop و structured_outputs و temperature و tool_choice و tools و top_k و top_logprobs و top_p. يغطي ذلك عناصر التحكم المعتادة في أخذ العينات بالإضافة إلى استدعاء الأدوات والمخرجات المهيكلة والتشغيلات القابلة لإعادة الإنتاج عبر seed.

أحد الأمور التي يجب وضعها في الحسبان هو حد المعرفة وحجم النموذج. إذا كانت مهمتك تحتاج حقائق من بعد 2023-12-31، فخطط لتوفيرها في الأمر النصي أو من خلال الاسترجاع. وإذا كنت تحتاج إلى إدخال صور أو صوت، فإن هذا النموذج لا يقبلها، وسيكون النموذج متعدد الوسائط خياراً أفضل. بالنسبة لأصعب مهام الاستدلال أو أعلى متطلبات جودة التوليد، قد يناسبك نموذج أكبر في العائلة نفسها بشكل أفضل، بينما تبقى هذه النسخة 8B خياراً متيناً للعمل عالي الحجم وأقل تعقيداً.