Inference.net: Schematron V2 Small

Inference.net: Schematron V2 Small هو نموذج نصي من Inference.net. وهو نموذج لاستخراج HTML إلى JSON بعدد معاملات 3B، ويصفه المزود بأنه يعطي الأولوية لجودة الاستخراج للمخططات المعقدة والصفحات الطويلة. وهو يقع في فئة النصوص، لذا فهو موجه للعمل على اللغة ومعالجة المستندات بدلا من الصور أو الصوت أو الوسائط الأخرى.

يأخذ النموذج النص كمدخل ويعيد النص كمخرج. نافذة السياق لديه هي 128,000 رمز، وهذا ما يسمح له بالعمل عبر صفحات طويلة في طلب واحد، والحد الأقصى لمخرجه هو 4,096 رمزا. ويشير المزود إلى أن تعليمات الاستخراج يجب تقديمها عبر مخطط JSON، لذا فإن المخطط هو الآلية التي تخبر النموذج بما يجب استخراجه من HTML وكيفية تشكيل النتيجة.

تشير هذه الخصائص إلى مجموعة محددة إلى حد ما من الاستخدامات. الاستخدام الواضح هو تحويل صفحات HTML إلى JSON منظم، على سبيل المثال استخراج تفاصيل المنتجات أو القوائم أو بيانات المقالات الوصفية أو حقول متكررة أخرى من صفحات تختلف في تخطيطها. ولأن النموذج مصمم لمخططات معقدة، فهو يناسب الحالات التي يكون فيها الهيكل المستهدف يحتوي على كائنات متداخلة أو حقول كثيرة بدلا من قيمتين مسطحتين. تساعد السياق الطويل عندما يكون المحتوى ذو الصلة مدفونا في أسفل الصفحة أو عندما تحتوي صفحة واحدة على سجلات كثيرة لاستخراجها. وهو نموذج نص إلى نص، لذا فهو يناسب خطوط المعالجة التي يتم فيها جلب HTML من مكان آخر وتسليمه إلى النموذج لتحليله.

يمكنك استدعاؤه عبر واجهة API المتوافقة مع OpenAI الخاصة بـ api14 باستخدام معرف النموذج "inference-net/schematron-v2-small". معاملات الطلب التي يدعمها هي frequency_penalty و logit_bias و max_tokens و min_p و presence_penalty و repetition_penalty و response_format و seed و stop و structured_outputs و temperature و top_k و top_p. بالنسبة لعمل الاستخراج، فإن response_format و structured_outputs هما المعاملان الأكثر ارتباطا مباشرا بالحصول على JSON بالشكل الذي طلبته، بينما يساعد seed عندما تريد نتائج قابلة للتكرار عبر التشغيلات. تتيح لك عناصر التحكم في أخذ العينات مثل temperature و top_p و top_k و min_p المقايضة بين التنوع والاتساق، ويحد max_tokens من طول JSON المعاد.

ضع حد المخرجات في اعتبارك: 4,096 رمزا هو السقف في استجابة واحدة، لذا قد تحتاج مهام الاستخراج الكبيرة جدا إلى التقسيم عبر استدعاءات متعددة حتى مع أن جانب الإدخال يمكنه استيعاب 128,000 رمز. النموذج أيضا نصي فقط، لذا ستحتاج الصفحات التي تعتمد على الصور أو التخطيط المعروض إلى المعالجة قبل وصولها إليه. إذا كانت مهمتك محادثة عامة أو استدلالا أو توليدا بدلا من استخراج مدفوع بالمخطط من HTML، فإن نموذج نصي عام الأغراض يكون على الأرجح خيارا أفضل.