Llama 3.1 70B Instruct مقابل Qwen2.5 72B Instruct: سعر API والسياق والميزات

نستخدم ملفات تعريف الارتباط. تُبقيك ملفات تعريف الارتباط وتخزين المتصفح مسجّلًا للدخول وتتذكر تفضيلاتك. وبإذنك نقيس أيضًا كيفية استخدام الموقع. يمكنك في أي وقت. راجع سياسة ملفات تعريف الارتباط.

جديد هنا؟ اكتشف كيف يعمل جولة لمدة دقيقة واحدة في ساحة التجربة والنماذج ومفتاح API الخاص بك.

Meta: Llama 3.1 70B Instruct مقابل Qwen2.5 72B Instruct

مقارنة جنبًا إلى جنب بين Meta: Llama 3.1 70B Instruct (‏2.52 US$ / مليون رمز (≈ ‏9.45 ر.س.‏)) وQwen2.5 72B Instruct (‏1.26 US$ / مليون رمز (≈ ‏4.73 ر.س.‏)) باستخدام الأسعار الحالية بالدولار والقدرات من كتالوج api14. يعمل كلاهما عبر API نفسها المتوافقة مع OpenAI.

المواصفات

	Meta: Llama 3.1 70B Instruct	Qwen2.5 72B Instruct
المزوّد	Meta	Qwen
الإدخال	‏2.52 US$ / مليون رمز (≈ ‏9.45 ر.س.‏)	‏1.26 US$ / مليون رمز (≈ ‏4.73 ر.س.‏)
الإخراج	‏2.52 US$ / مليون رمز (≈ ‏9.45 ر.س.‏)	‏1.40 US$ / مليون رمز (≈ ‏5.25 ر.س.‏)
نافذة السياق	131,072	32,768
الحد الأقصى للإخراج	8,192	16,384
الإدخال	text	text
الإخراج	text	text
استدعاء الأدوات
المخرجات المنظّمة
التحكم في الاستدلال
تاريخ الإضافة	23‏/07‏/2024	19‏/09‏/2024

أبرز الفروق

Qwen2.5 72B Instruct أرخص بنسبة 50% في رموز الإدخال.
Qwen2.5 72B Instruct أرخص بنسبة 44% في رموز الإخراج.
يقرأ Meta: Llama 3.1 70B Instruct سياقًا أكبر بمقدار 4.0× (131,072 رمز).
Qwen2.5 72B Instruct وحده يدعم استدعاء الأدوات.
Qwen2.5 72B Instruct وحده يدعم مخرجات JSON منظّمة.
يكلّف طلب يتضمن 1000 رمز إدخال و500 رمز إخراج ‏0.00378 US$ مع Meta: Llama 3.1 70B Instruct و‏0.00196 US$ مع Qwen2.5 72B Instruct.

بالتفصيل

ميتا: Llama 3.1 70B Instruct هو نموذج نصي من ميتا، صدر في 2024-07-23. Qwen2.5 72B Instruct هو نموذج نصي من Qwen، صدر في 2024-09-19. يقع كلاهما في نفس فئة الوزن التقريبية، حوالي سبعين مليار معامل، وكلاهما مضبوط بالتعليمات للدردشة وأعمال المساعد العامة. لا يعد أي منهما نموذجا صغيرا، لذا يستهدف كلاهما المطورين الذين يريدون سلوكا لغويا عاما قويا بدلا من حصان عمل رخيص عالي الحجم.

الفرق الأوضح هو السياق. يقبل Llama 3.1 70B Instruct ما يصل إلى 131072 رمزا، وهو أربعة أضعاف نافذة 32768 رمزا لدى Qwen2.5 72B Instruct. إذا تضمن طلبك مستندات طويلة أو قواعد أكواد كبيرة أو نصوصا مفرغة طويلة أو العديد من الأجزاء المسترجعة، فإن هذه الفجوة مهمة وLlama هو الذي سيتسع للمدخل. في الأنماط، الاثنان متطابقان: نص دخلا، نص خرج، لا معالجة صور أو صوت على أي من الجانبين. قوائم المعاملات المدعومة لديهما متطابقة تماما أيضا، لذا يعرض كلاهما temperature وtop_p وtop_k وmin_p وrepetition_penalty وfrequency_penalty وpresence_penalty وlogit_bias وseed وstop وmax_tokens وresponse_format وstructured_outputs وtools وtool_choice. لا توجد قدرة يمتلكها أحدهما ويفتقدها الآخر في تلك القائمة، لذا لا يتوقف الاختيار على دعم الميزات.

للاختيار العملي، ابدأ بحجم المدخل. الاسترجاع طويل السياق، ومراجعة الملفات كاملة، وتلخيص مستندات متعددة، وأي شيء كنت ستجزئه بقوة لولاه، تشير كلها إلى Llama 3.1 70B Instruct، ببساطة لأن النافذة أكبر. للمهام الأقصر ومحددة النطاق مثل دورات الدردشة، واستدعاءات الدوال المفردة، والتصنيف، والاستخراج من فقرة أو فقرتين، وخطوات الوكيل حيث يكون كل طلب صغيرا، يعد Qwen2.5 72B Instruct خيارا افتراضيا معقولا، وهو الأرخص بين الاثنين في المدخل. تسعير المخرج متقارب لكليهما، لذا يظهر فرق التكلفة على جانب المدخل. إذا كان عبء عملك في معظمه طلبات قصيرة، فإن ميزة المدخل هذه لصالح Qwen تتراكم؛ وإذا كانت طلباتك طويلة، فقد توفر لك النافذة الأكبر لدى Llama تقسيم الطلبات أصلا، وهو ما قد يكون أهم من السعر لكل رمز.

استدعاء أي من النموذجين عبر api14 يعمل بالطريقة نفسها، لأن الواجهة متوافقة مع OpenAI. توجه عميل OpenAI الحالي لديك إلى عنوان api14 الأساسي، وترسل مفتاحك، وتضبط حقل model. لاستخدام Llama، اضبط معرف النموذج على meta-llama/llama-3.1-70b-instruct. لاستخدام Qwen، اضبطه على qwen/qwen-2.5-72b-instruct. كل شيء آخر في جسم الطلب، messages وtemperature وmax_tokens وtools وresponse_format والباقي، يبقى كما هو. التبديل بين الاثنين تغيير من سطر واحد، لذا يمكنك قياس أداء كليهما مقابل طلباتك الخاصة واختيار كل مسار أو كل مهمة دون إعادة كتابة تكاملك.

هناك حالة واحدة يظل فيها Qwen2.5 72B Instruct الخيار الأفضل حتى عندما لا يكون السياق ضيقا: عندما تكون التكلفة على المدخل هي العامل الحاسم وتتسع طلباتك بارتياح داخل 32768 رمزا. في تلك الحالة لا تشتري لك النافذة الأكبر لدى Llama شيئا ستستخدمه، وQwen هو خيار المدخل الأرخص. وبالعكس، إذا كنت تتوقع يوما ما النمو إلى مدخلات أطول، فإن Llama 3.1 70B Instruct يمنحك هامشا دون ترحيل ثان لاحقا.

بدّل بتغيير سلسلة واحدة

يستخدم النموذجان نقطة النهاية نفسها وبنية الطلب نفسها. غيّر قيمة model من "meta-llama/llama-3.1-70b-instruct" إلى "qwen/qwen-2.5-72b-instruct"، وتستمر الموجّهات والبث والأدوات في العمل.

تفاصيل Meta: Llama 3.1 70B Instruct وساحة التجربة →تفاصيل Qwen2.5 72B Instruct وساحة التجربة →

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api14.com/api/v1",
  apiKey: process.env.API14_API_KEY,
});

const result = await client.chat.completions.create({
  "model": "qwen/qwen-2.5-72b-instruct",
  "messages": [
    {
      "role": "user",
      "content": "Explain vector databases in two sentences."
    }
  ]
});
console.log(result.choices[0].message.content);

Meta: Llama 3.1 70B Instruct مقابل Qwen2.5 72B Instruct

المواصفات

أبرز الفروق

بالتفصيل

بدّل بتغيير سلسلة واحدة

مقارنات أخرى