NVIDIA: Nemotron 3.5 Lightning (free)

Nemotron 3.5 Lightning هو نموذج مفتوح من نوع mixture-of-experts من NVIDIA. يحتوي على 3B معاملات نشطة من إجمالي 30B، مما يعني أن جزءاً فقط من الشبكة يعمل لكل token بينما لا يزال النموذج الكامل يحتفظ بقاعدة واسعة من المعرفة المكتسبة. يقع في فئة النصوص، لذا فهو مصمم للعمل اللغوي وليس للصور أو الصوت. تشير وسمة "free" على api14 إلى أن هذا المتغير يمكنك تجربته دون خطة مدفوعة.

يستقبل النموذج النص ويعيد النص. نافذة السياق الخاصة به هي 1,000,000 tokens، وهي كبيرة بما يكفي لاستيعاب قواعد برمجية كاملة أو مجموعات مستندات طويلة أو نصوص وكيل ممتدة في طلب واحد. الحد الأقصى للمخرجات هو 65,536 tokens، لذا يمكن لنداء واحد إنتاج تقرير طويل أو إعادة هيكلة كبيرة أو خطة متعددة الخطوات دون تقسيم العمل. ولأنه تصميم mixture-of-experts مع عدد صغير من المعاملات النشطة، فهو موجّه لأحمال عمل الوكلاء عالية الإنتاجية والمهام المتخصصة، حيث تحدث العديد من النداءات بالتوازي وتكون زمن الاستجابة لكل نداء مهماً.

تشير هذه السمات إلى بعض الأنماط العملية. الاسترجاع والتلخيص بالسياق الطويل يناسبان جيداً: يمكنك تمرير مجموعة كبيرة وطلب توليف في shot واحد. حلقات الوكلاء مناسبة أيضاً، لأن النموذج يدعم tool calling ويمكنه تحديد متى يستدعي دالة وكيف يستخدم النتيجة. التصنيف بالدفعات والاستخراج والتوجيه على كميات كبيرة من النص منطقية أيضاً نظراً للتوجه نحو الإنتاجية. كما تُدعم المطالبات الثقيلة بالاستدلال، لذا يمكن التعامل مع المهام التي تستفيد من سلسلة تفكير مرئية قبل الإجابة النهائية في النموذج نفسه.

تستدعيه عبر API المتوافق مع OpenAI الخاص بـ api14 باستخدام معرّف النموذج "nvidia/nemotron-3.5-lightning:free". وجّه عميل OpenAI الحالي لديك إلى عنوان base URL الخاص بـ api14 ومرر ذلك المعرّف في حقل model. معاملات الطلب التي يدعمها هي include_reasoning و max_tokens و reasoning و seed و temperature و tool_choice و tools و top_p. استخدم tools و tool_choice لاستدعاء الدوال، و temperature و top_p لتشكيل أخذ العينات، و seed للتشغيلات القابلة للتكرار، و max_tokens لتحديد سقف الاستجابة. تتحكم معاملات reasoning و include_reasoning فيما إذا كان محتوى الاستدلال مطلوباً ومعاداً.

أحد الأمور التي يجب وضعها في الاعتبار هو سقف المخرجات. عند 65,536 tokens لكل استجابة، قد تحتاج التوليدات الفردية الضخمة جداً إلى التقسيم عبر نداءات متعددة حتى مع أن نافذة الإدخال أكبر بكثير. إذا كانت مهمتك تعتمد على وسائط غير النص، فلن يغطيها هذا النموذج. وإذا كنت بحاجة إلى أقوى جودة استدلال ممكنة بدلاً من الإنتاجية في أعمال الوكلاء والمهام المتخصصة، فقد يكون نموذج أكبر الخيار الأفضل.