Cohere: Command R (08-2024)

Command R (08-2024) هو نموذج توليد نصوص من Cohere، معرّف على api14 بالمعرّف cohere/command-r-08-2024. وهو تحديث لنموذج Command R الأسبق، أصدره المزوّد في 30 أغسطس 2024، ويحتفظ بالدور العام نفسه في تشكيلة Cohere مع تحسينات على النسخة الأصلية. يركّز التحديث على أداء أفضل في التوليد المعزّز بالاسترجاع (RAG) متعدد اللغات واستخدام الأدوات، كما أنه أقوى في الرياضيات والبرمجة والاستدلال من النسخة التي يحل محلها.

يعمل النموذج مع النصوص إدخالاً وإخراجاً فقط. يقبل مطالبات نصية ويعيد إكمالات نصية، دون إدخال صور أو صوت. نافذة السياق هي 128,000 رمز، وهي كبيرة بما يكفي لاستيعاب مستندات طويلة أو محادثات متعددة الأدوار أو عدة مقاطع مسترجعة إلى جانب التعليمات. الحد الأقصى للإخراج هو 4,000 رمز لكل استجابة، وحد المعرفة هو 31 مارس 2024، لذا فإن أي شيء بعد ذلك التاريخ يجب أن يأتي من المطالبة أو من استدعاء أداة بدلاً من بيانات تدريب النموذج نفسه.

تشير هذه القدرات إلى استخدامات عملية قليلة. ولأن RAG متعدد اللغات يُعدّ نقطة قوة معلنة، يناسب النموذج الإجابة على الأسئلة من مجموعة مستندات قد تكون الاستعلامات والمصادر فيها بلغات مختلفة، مع وضع المقاطع المسترجعة في نافذة السياق الطويلة. ويجعله استخدام الأدوات والمخرجات المهيكلة مناسباً بشكل معقول للوكلاء وسير العمل التي تحتاج إلى استدعاء دوال أو استخراج حقول إلى مخطط أو توجيه طلب إلى نظام آخر. كما تجعل التحسينات في الرياضيات والبرمجة والاستدلال قابلاً للاستخدام في مهام التحليل وشرح الشيفرة وحل المشكلات خطوة بخطوة، وإن كان حد الإخراج البالغ 4,000 رمز يعني أن الملفات المولّدة الطويلة أو التقارير المفصلة جداً تحتاج إلى تقسيم عبر استدعاءات متعددة.

تستدعيه عبر واجهة api14 المتوافقة مع OpenAI باستخدام معرّف النموذج cohere/command-r-08-2024، لذا تعمل شيفرة OpenAI SDK الحالية بتغيير عنوان URL الأساسي واسم النموذج. معاملات الطلب التي يدعمها هي frequency_penalty و max_tokens و presence_penalty و response_format و seed و stop و structured_outputs و temperature و tool_choice و tools و top_k و top_p. عملياً يغطي ذلك التحكم في أخذ العينات (temperature و top_p و top_k)، والتحكم في التكرار (frequency و presence penalties)، وطول الإخراج (max_tokens)، وتسلسلات الإيقاف، وأخذ عينات شبه حتمي عبر seed، وكلًا من response_format بأسلوب JSON و structured_outputs للنتائج المقيّدة بمخطط. يُضبط استخدام الأدوات عبر tools و tool_choice.

ثمة حدود قليلة يجدر معرفتها قبل الالتزام. الإدخال والإخراج نصيان فقط، لذا إذا كنت بحاجة إلى الرؤية أو الصوت، فهذا النموذج ليس الخيار الصحيح. سقف الإخراج البالغ 4,000 رمز يستبعده من المهام التي يجب أن تصدر استجابات فردية طويلة جداً. ويعني حد المعرفة في 31 مارس 2024 أن المعلومات الحديثة يجب توفيرها في المطالبة أو جلبها عبر الأدوات. ولأن النموذج يتموضع حول RAG واستخدام الأدوات والاستدلال بدلاً من كونه نموذجاً رائداً عاماً، فقد يكون نموذج آخر أنسب عندما تكون أولويتك شيئاً خارج تلك المجالات.