Google: Gemma 2 27B

Google Gemma 2 27B هو نموذج نصي مفتوح من Google، مبني على نفس الأبحاث والتقنية المستخدمة لإنشاء نماذج Gemini. وهو ينتمي إلى عائلة Gemma 2، وبعدد معاملات يبلغ 27B، يُعد أكبر نسخة في هذا الخط. أطلق المزود النموذج في 13 يوليو 2024، وحد المعرفة الخاص به هو 30 يونيو 2024، لذا فإن أي شيء بعد ذلك التاريخ يقع خارج ما تعلمه أثناء التدريب.

إنه نموذج نصي إدخالا ونصي إخراجا. نافذة السياق هي 8192 رمزا، والحد الأقصى للإخراج هو 2048 رمزا. هذا المزيج يشكل طريقة تخطيطك للمطالبات: المستندات الطويلة، أو ملفات الشيفرة الكبيرة، أو سجلات المحادثة الممتدة يجب أن تتسع داخل ميزانية 8192 رمزا إلى جانب تعليماتك، كما أن الرد نفسه محدود بـ 2048 رمزا. لا توجد هنا مدخلات صور أو صوت أو أي وسائط إدخال أخرى، لذا يجب أن يكون كل ما ترسله نصا عاديا.

الاستخدامات العملية تتبع هذا الوصف. وهو يعمل جيدا لمساعدي المحادثة، والإجابة عن الأسئلة اعتمادا على مواد تلصقها في المطالبة، وتلخيص المقالات أو التقارير التي تتسع داخل نافذة السياق، والصياغة وإعادة الكتابة، ومهام التصنيف والاستخراج، وشرح الشيفرة أو توليدها ضمن حد الإخراج. ولأنه نموذج مضبوط على التعليمات، فإنه يستجيب لأوصاف المهام المباشرة بدلا من الحاجة إلى أمثلة قليلة لكل طلب. كما أن دعم المخرجات المنظمة يجعله خيارا معقولا عندما تحتاج إلى أن يتوافق الرد مع مخطط، على سبيل المثال استخراج حقول من تذاكر الدعم أو أوصاف المنتجات إلى JSON.

يمكنك استدعاؤه عبر واجهة API المتوافقة مع OpenAI من api14 باستخدام معرّف النموذج "google/gemma-2-27b-it". ولأن الواجهة تتبع شكل إكمالات المحادثة من OpenAI، يمكنك توجيه عميل OpenAI موجود إلى api14 وتغيير سلسلة النموذج. معاملات الطلب المدعومة هي frequency_penalty و max_tokens و presence_penalty و repetition_penalty و response_format و seed و stop و structured_outputs و temperature و top_p. عمليا، ستضبط temperature و top_p للتحكم في أخذ العينات، وتستخدم max_tokens لتقييد الرد ضمن حد الإخراج البالغ 2048، وتطبق تسلسلات stop لإنهاء التوليد بشكل نظيف، وتستخدم seed عندما تريد نتائج قابلة للتكرار. تساعد معاملات العقوبة في تقليل تكرار الصياغة، ويغطي response_format مع structured_outputs الحالات التي يجب أن يتبع فيها الإخراج بنية محددة.

القيد الرئيسي الذي يجب وضعه في الاعتبار هو نافذة السياق. عند 8192 رمزا فهي أصغر مما تقدمه العديد من النماذج الحالية، لذا قد تحتاج أحمال العمل التي تعتمد على مستندات طويلة جدا، أو مستودعات كبيرة، أو محادثات طويلة الأمد إلى التقسيم أو الاسترجاع أو نموذج بنافذة أكبر. وبالمثل، يستبعد حد الإخراج البالغ 2048 رمزا الردود الفردية الطويلة جدا. إذا كانت مهمتك تتسع ضمن هذه الحدود وتريد نموذجا مفتوحا من Google مع اتباع التعليمات ودعم المخرجات المنظمة، فإن Gemma 2 27B خيار مباشر لتجربته عبر نفس سطح API الذي تستخدمه بالفعل.