Thinking Machines: Inkling

Thinking Machines: Inkling هو نموذج مزيج خبراء متعدد الوسائط مفتوح الأوزان من Thinking Machines Lab. لديه 41B معامل نشط من أصل 975B إجمالي، وهو مصمم للاستدلال العام والبرمجة والأنظمة الوكيلية وأنظمة استخدام الأدوات. على api14 هو مدرج تحت معرّف النموذج thinkingmachines/inkling ويقع في فئة النصوص.

يقبل النموذج النص والصورة والصوت كمدخلات وينتج النص كمخرجات، لذا يمكنه العمل عبر مطالبات متعددة الوسائط بدلا من النص وحده. نافذة السياق لديه هي 524,288 رمزا، والحد الأقصى للمخرجات هو 471,859 رمزا. هذا المزيج من نافذة إدخال طويلة وميزانية إخراج كبيرة يجعله مناسبا للمهام التي يجب فيها قراءة الكثير من المواد وكتابة قدر كبير من النص ردا على ذلك في طلب واحد.

تتبع الاستخدامات العملية من هذه القدرات. يمكن تمرير المستندات الطويلة وقواعد الأكواد الكبيرة والنصوص الممتدة دون تقطيع مكثف، مما يساعد في توليد الأكواد ومراجعتها، والاستدلال متعدد الخطوات على مواد مصدرية طويلة، والأنظمة الوكيلية أو أنظمة استخدام الأدوات التي تحتاج إلى الاحتفاظ بالكثير من الحالة في السياق. ولأن الصور والصوت يمكن توفيرها إلى جانب النص، يمكن للنموذج نفسه التعامل مع مطالبات تمزج لقطة شاشة أو تسجيلا مع تعليمات مكتوبة، ثم إرجاع إجابة نصية. تشير معاملات الاستدلال والأدوات أيضا إلى سير عمل يقوم فيه النموذج بالتخطيط واستدعاء الأدوات والإبلاغ عن النتائج.

يمكنك استدعاؤه عبر واجهة api14 المتوافقة مع OpenAI باستخدام معرّف النموذج thinkingmachines/inkling. معاملات الطلب المدعومة هي frequency_penalty و include_reasoning و logit_bias و max_tokens و min_p و presence_penalty و reasoning و reasoning_effort و repetition_penalty و seed و stop و temperature و tool_choice و tools و top_k و top_p. يتم تكوين استخدام الأدوات باستخدام tools و tool_choice، وطول المخرجات باستخدام max_tokens، وسلوك أخذ العينات باستخدام temperature و top_p و top_k و min_p ومعاملات العقوبة، وسلوك الاستدلال باستخدام reasoning و reasoning_effort و include_reasoning. يمكن تعيين seed لأخذ عينات قابل للتكرار، ويمكن توفير تسلسلات stop لإنهاء التوليد عند نقاط مختارة.

القيد الرئيسي الذي يجب تذكره هو أن المخرجات نصية فقط، لذا فإن المهام التي تتطلب توليد صور أو صوت خارج نطاقه. إذا كان عبء العمل لديك نصيا بحتا ولا يحتاج إلى المدخلات متعددة الوسائط أو السياق الطويل، فقد يكون نموذج نصي أصغر حجما خيارا أبسط. بالنسبة للمطالبات متعددة الوسائط أو المدخلات الطويلة جدا أو الوكلاء المدفوعين بالأدوات، فإن Inkling هو الخيار المناسب بين النماذج المتاحة هنا.