نستخدم ملفات تعريف الارتباط. تُبقيك ملفات تعريف الارتباط وتخزين المتصفح مسجّلًا للدخول وتتذكر تفضيلاتك. وبإذنك نقيس أيضًا كيفية استخدام الموقع. يمكنك في أي وقت. راجع سياسة ملفات تعريف الارتباط.
inclusionai/ling-3.0-tinyيعمل من رصيدك بالأسعار أعلاه. تبدأ الحسابات الجديدة باستخدام مجاني.
الإعدادات
Ling 3.0 Tiny هو نموذج نصي من inclusionAI. وهو نموذج مزيج من الخبراء (mixture-of-experts) مع 1.3B معامل نشط من إجمالي 7.9B. يستهدف التصميم الوكلاء سريعي الاستجابة، واتباع التعليمات، والمحادثات متعددة الأدوار، ويدعم النموذج سلوك استدلال قابل للتبديل. يقع في فئة النصوص، لذا فهو مخصص للعمل اللغوي بدلا من الصور أو الصوت أو الوسائط الأخرى.
يأخذ النموذج النص كمدخل ويعيد النص كمخرج. نافذة السياق الخاصة به هي 262144 رمزا، والحد الأقصى للمخرجات هو 250000 رمز، مما يعني أن المدخلات الطويلة جدا والتوليدات الطويلة جدا ممكنان معا ضمن طلب واحد. يمكن تشغيل الاستدلال أو إيقافه، وعند تمكينه يمكن إظهار محتوى الاستدلال بشكل منفصل عبر المعامل include_reasoning. هذه التركيبة من سياق كبير وعدد معاملات نشط صغير نسبيا تجعله مرشحا لأعباء العمل حيث تكون زمن الاستجابة والإنتاجية مهمين إلى جانب المستندات الطويلة.
تتبع الاستخدامات العملية هذه السمات. يتناسب الوكلاء سريعو الاستجابة وسير العمل القائم على الأدوات مع دعم اتباع التعليمات والأدوات. تستفيد أنظمة المحادثة متعددة الأدوار من السياق الطويل، حيث يمكن أن تبقى الأدوار السابقة والمواد المرجعية في المطالبة (prompt). يعد تلخيص المستندات الطويلة والاستخراج والإجابة على الأسئلة ممكنا لأن نافذة السياق كبيرة. تعمل مهام المخرجات المنظمة عبر response_format، ويمكن لمهام التصنيف أو التقييم استخدام logprobs و top_logprobs. يمكن التعامل مع المطالبات كثيفة الاستدلال عبر تمكين الاستدلال حيث تحتاج المهمة إلى عمل خطوة بخطوة قبل الإجابة النهائية.
تستدعي النموذج عبر واجهة API المتوافقة مع OpenAI من api14 باستخدام معرّف النموذج "inclusionai/ling-3.0-tiny". لأن الواجهة تتبع شكل إكمالات الدردشة (chat completions) من OpenAI، تعمل حزم SDK والعملاء الحاليون من OpenAI عبر توجيه عنوان URL الأساسي إلى api14 وتعيين معرّف النموذج. معاملات الطلب المدعومة هي frequency_penalty و include_reasoning و logprobs و max_tokens و presence_penalty و reasoning و response_format و seed و stop و temperature و tools و top_logprobs و top_p. استخدم max_tokens لتحديد التوليد، و temperature ومعاملات العقوبة لتوجيه الأسلوب والتكرار، و seed لأخذ عينات قابل لإعادة الإنتاج، و stop لإنهاء التوليد عند تسلسلات مختارة. يمكّن tools استدعاء الدوال، ويقيد response_format بنية المخرجات.
هناك حالات قد يكون فيها نموذج آخر أنسب. يتعامل هذا النموذج مع النصوص فقط، لذا فإن المهام التي تتطلب مدخلات أو مخرجات من الصور أو الصوت تحتاج إلى نموذج مختلف. إنه نسخة صغيرة (tiny)، لذا إذا كانت المهمة تتطلب أقوى استدلال أو معرفة ممكنة، فقد يكون نموذج أكبر في العائلة نفسها أو من مزوّد آخر الخيار الأفضل. بالنسبة لتوليد النصوص المباشر، والوكلاء، والعمل ذي السياق الطويل ضمن المعاملات المدعومة، فهو خيار افتراضي معقول.
لا توجد مواضيع في هذا المجتمع بعد. افتح أول موضوع عن inclusionAI: Ling 3.0 Tiny.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "inclusionai/ling-3.0-tiny",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_tokenspresence_penaltyreasoningresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_logprobstop_p