Cohere: Command R7B (12-2024)

Command R7B (12-2024) هو نموذج نصي من Cohere، أصدره المزود في 14 ديسمبر 2024. يوصف بأنه تحديث صغير وسريع لنموذج Command R+، مما يضعه ضمن عائلة Command للنماذج اللغوية من Cohere الموجهة لأعباء العمل العملية المعتمدة على الأدوات وليس للمحادثة العامة وحدها. إذا كنت تعرف سلسلة Command بالفعل، فهذا هو البديل المدمج والأسرع الذي تفكر فيه عندما تريد النمط نفسه من تغطية المهام دون نموذج كبير.

يستقبل النموذج النص ويعيد النص، مع نافذة سياق تبلغ 128,000 رمز وحد أقصى للمخرجات يبلغ 4,000 رمز. حد المعرفة الخاص به هو 31 أغسطس 2024، لذا فإن أي شيء بعد هذا التاريخ خارج ما تعلمه أثناء التدريب. تصفه Cohere بأنه قوي في التوليد المعزز بالاسترجاع، واستخدام الأدوات، والوكلاء، والمهام المشابهة التي تتطلب استدلالا معقدا. هذه هي القدرات التي يجب التخطيط حولها: مدخلات طويلة، وعمل منظم أو موجه نحو الأدوات، واستدلال متعدد الخطوات بدلا من الكتابة الإبداعية البحتة.

تشير هذه التركيبة إلى مجموعة محددة إلى حد ما من حالات الاستخدام. خطوط RAG هي الملاءمة الواضحة، إذ تتيح نافذة السياق البالغة 128k حشو المستندات المسترجعة إلى جانب السؤال دون تقليم مكثف. ويتبع استخدام الأدوات وحلقات الوكلاء من نقاط القوة نفسها، على سبيل المثال نموذج يقرر أي دالة يستدعي، ويقرأ النتيجة، ويواصل. ولأن المخرجات المنظمة مدعومة، يمكنك أيضا استخدامه لمهام الاستخراج والتصنيف حيث يجب أن تتوافق الاستجابة مع مخطط. ويجدر الانتباه إلى سقف المخرجات البالغ 4,000 رمز: فهو مناسب للإجابات والملخصات واستدعاءات الأدوات، لكن ليس لتوليد مستندات طويلة في استجابة واحدة.

تستدعيه عبر واجهة api14 المتوافقة مع OpenAI باستخدام معرّف النموذج "cohere/command-r7b-12-2024". ولأن الواجهة تتبع شكل إكمالات الدردشة من OpenAI، فإن حزم SDK والعملاء الحاليين من OpenAI يعملون عموما مع تغيير عنوان URL الأساسي ومعرّف النموذج فقط. معاملات الطلب التي يدعمها هي frequency_penalty و max_tokens و presence_penalty و response_format و seed و stop و structured_outputs و temperature و top_k و top_p. وجود seed مفيد عندما تريد أخذ عينات قابلة لإعادة الإنتاج، و response_format مع structured_outputs هما ما تلجأ إليه عندما يحتاج الكود اللاحق إلى مخرجات قابلة للتحليل.

فيما يتعلق بالحدود، القيود الرئيسية المذكورة هي الحد الأقصى للمخرجات البالغ 4,000 رمز وحد المعرفة في 31 أغسطس 2024. إذا كانت مهمتك تعتمد على معلومات حديثة جدا، فستحتاج إلى توفيرها في الطلب أو عبر الاسترجاع بدلا من الاعتماد على معرفة النموذج نفسه. وإذا كنت بحاجة إلى إدخال صور أو صوت، فهذا النموذج لا يقبلها، لأنه نصي فقط. ضمن هذه الحدود يعد خيارا افتراضيا معقولا لمهام RAG والوكلاء والمهام النصية المنظمة حيث تكون السرعة ونافذة الإدخال الطويلة أهم من التوليد الطويل.