NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)

إنفيديا: Llama Nemotron Rerank VL 1B V2 (مجاني) هو نموذج إعادة ترتيب متعدد الوسائط من إنفيديا. ينتمي إلى فئة إعادة الترتيب، ومهمته أضيق من مهمة نموذج محادثة أو توليد: فهو يقيّم مدى ارتباط مستند ما باستعلام المستخدم. النموذج نظام بعدد معاملات 1.7B، والإصدار المقدَّم هنا هو إصدار V2. بنته إنفيديا تحديداً لمرحلة الترتيب في خطوط أنابيب الاسترجاع، بما في ذلك خطوط الأنابيب التي تتعامل مع الصور والنصوص معاً.

عند الإدخال، يقبل النموذج النصوص والصور. وعند الإخراج، ينتج نتائج إعادة ترتيب بدلاً من نص مولَّد. وهذا يعني أنك تعطيه استعلاماً إلى جانب مستندات مرشحة، قد تكون صور مستندات أو نصوصاً، فيعيد أحكام ارتباط يمكنك استخدامها لترتيب تلك المرشحات. نافذة السياق 10,240 رمزاً، بحد أقصى للإخراج 9,216. ولأن ميزانيتي الإدخال والإخراج تقعان في هذا النطاق، فإن القيد العملي هو مقدار محتوى الاستعلام والمستند الذي تحشره في نداء تقييم واحد.

حالة الاستخدام الواضحة هي RAG البصري. إذا كان نظام الاسترجاع لديك يفهرس صفحات ممسوحة ضوئياً، أو لقطات شاشة، أو عروض تقديمية، أو ملفات PDF معروضة كصور، أو أي مجموعة يكون فيها التخطيط والعناصر البصرية حاملين للمعنى، فإن أداة إعادة ترتيب نصية فقط ستغفل جزءاً من الإشارة. هذا النموذج يقيّم صور المستندات مقابل استعلام مباشرة، لذا يمكن أن يجلس بين أداة الاسترجاع في المرحلة الأولى وخطوة التوليد، معيداً ترتيب المرشحات كي تصل أكثرها ارتباطاً إلى نافذة سياق النموذج الذي يكتب الإجابة النهائية. إعادة الترتيب النصية فقط تعمل أيضاً، لذا فإن المجموعات المختلطة لا مشكلة فيها.

تستدعيه عبر واجهة API المتوافقة مع OpenAI الخاصة بـ api14 باستخدام معرّف النموذج "nvidia/llama-nemotron-rerank-vl-1b-v2:free". ولأن الواجهة متوافقة مع OpenAI، فإنك توجّه عميلك الحالي إلى عنوان URL الأساسي الخاص بـ api14 وتمرر ذلك المعرّف في حقل model. لاحظ أن هذا النموذج لا يسرد أي معاملات مدعومة تتجاوز الأساسيات، لذا لا توجد مقابض إضافية مثل عناصر التحكم في أخذ العينات أو تنسيق الاستجابة المخصص لضبطها له. اجعل طلبك مقتصراً على محتوى الرسالة القياسي بالإضافة إلى معرّف النموذج.

قائمة المعاملات الفارغة تلك تستحق التخطيط حولها. إذا كان تطبيقك يتوقع ضبط temperature أو top_p أو إعدادات مشابهة، فهذا ليس النموذج المناسب لذلك؛ سيكون نموذج توليدي أنسب هناك. وبالمثل، إذا كانت مهمتك إنتاج نص بدلاً من ترتيب المرشحات، فإن أداة إعادة الترتيب هي الأداة الخاطئة. ما يناسبها هو خطوة الترتيب، خصوصاً عندما تكون مستنداتك صوراً وتريد تقييماً للارتباط يأخذها في الحسبان.