Thinking Machines: Inkling

Thinking Machines : Inkling est un modèle multimodal à mélange d'experts à poids ouverts de Thinking Machines Lab. Il compte 41B de paramètres actifs sur 975B au total, et il est conçu pour le raisonnement généraliste, le codage et les systèmes agentiques et d'utilisation d'outils. Sur api14, il est répertorié sous l'identifiant de modèle thinkingmachines/inkling et appartient à la catégorie texte.

Le modèle accepte le texte, l'image et l'audio en entrée et produit du texte en sortie, il peut donc fonctionner sur des invites multimédias plutôt que sur du texte seul. Sa fenêtre de contexte est de 524 288 tokens, et la sortie maximale est de 471 859 tokens. Cette combinaison d'une longue fenêtre d'entrée et d'un large budget de sortie le rend adapté aux tâches où beaucoup de matière doit être lue et où une quantité substantielle de texte doit être écrite en retour dans une seule requête.

Les usages pratiques découlent de ces capacités. Des documents longs, de grandes bases de code et des transcriptions étendues peuvent être fournis sans découpage lourd, ce qui aide pour la génération et la revue de code, le raisonnement en plusieurs étapes sur des sources longues, et les systèmes agentiques ou d'utilisation d'outils qui doivent conserver beaucoup d'état dans le contexte. Comme des images et de l'audio peuvent être fournis en plus du texte, le même modèle peut traiter des invites qui mélangent une capture d'écran ou un enregistrement avec des instructions écrites, puis renvoyer une réponse textuelle. Les paramètres de raisonnement et d'outils indiquent aussi des flux de travail où le modèle planifie, appelle des outils et rapporte les résultats.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle thinkingmachines/inkling. Les paramètres de requête pris en charge sont frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k et top_p. L'utilisation d'outils se configure avec tools et tool_choice, la longueur de sortie avec max_tokens, le comportement d'échantillonnage avec temperature, top_p, top_k, min_p et les paramètres de pénalité, et le comportement de raisonnement avec reasoning, reasoning_effort et include_reasoning. Une seed peut être définie pour un échantillonnage reproductible, et des séquences stop peuvent être fournies pour terminer la génération à des points choisis.

La principale contrainte à garder en tête est que la sortie est uniquement textuelle, donc les tâches qui nécessitent de générer des images ou de l'audio sortent de son périmètre. Si votre charge de travail est purement textuelle et n'a pas besoin des entrées multimodales ni du contexte long, un modèle plus petit et uniquement textuel peut être plus simple. Pour les invites multimédias, les entrées très longues ou les agents pilotés par outils, Inkling est le choix approprié parmi les modèles disponibles ici.