Thinking Machines: Inkling Small (free)

Thinking Machines : Inkling Small (gratuit) est un modèle de texte de Thinking Machines. C'est un modèle multimodal à mélange d'experts à poids ouverts de Thinking Machines Lab, avec 12B de paramètres actifs sur 276B au total. Le fournisseur le décrit comme le membre le plus petit et le plus efficace de sa famille, ce qui indique sa place dans la gamme : une option compacte plutôt que le plus grand modèle proposé par le laboratoire.

Le modèle accepte le texte, l'image et l'audio en entrée, et il ne produit que du texte. Cette combinaison en fait un lecteur multimodal plutôt qu'un générateur de médias : vous pouvez lui soumettre des invites écrites, des images ou de l'audio et obtenir des réponses écrites. Sa fenêtre de contexte est de 1 048 576 jetons, et la sortie maximale est de 262 144 jetons. La longueur de contexte est le chiffre phare ici, puisqu'elle est suffisamment grande pour contenir de très longs documents, de longues transcriptions ou des conversations étendues en une seule requête sans découpage.

Ces capacités renvoient à un ensemble d'usages assez spécifique. Le travail sur de longs documents est l'évidence : résumer, extraire des données structurées ou répondre à des questions sur de gros fichiers qui devraient autrement être découpés en de nombreux appels. Comme les images et l'audio sont acceptés en entrée, le même modèle peut traiter des tâches comme décrire ou extraire du texte à partir d'images, ou travailler sur de la parole enregistrée, sans étape de transcription séparée. La prise en charge du raisonnement signifie qu'il peut aussi être utilisé pour des problèmes où vous voulez que le modèle raisonne étape par étape avant de répondre, et l'appel d'outils lui permet de s'intégrer dans une boucle d'agent qui sollicite des fonctions externes.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "thinkingmachines/inkling-small:free". Les paramètres de requête pris en charge sont frequency_penalty, include_reasoning, max_tokens, presence_penalty, reasoning, reasoning_effort, seed, stop, temperature, tools et top_p. En pratique, cela couvre les contrôles d'échantillonnage habituels (temperature, top_p, pénalités de fréquence et de présence, séquences d'arrêt, seed pour la reproductibilité), la longueur de sortie via max_tokens, et les options liées au raisonnement et aux outils : reasoning et include_reasoning pour contrôler si le raisonnement est renvoyé, reasoning_effort pour orienter l'effort dépensé, et tools pour l'appel de fonctions.

Deux points méritent vérification avant de vous engager. Le modèle ne produit que du texte, donc si vous avez besoin d'images ou d'audio générés, il ne convient pas. Et bien que la fenêtre de contexte soit très grande, la variante gratuite porte le suffixe ":free" dans son identifiant de modèle, ce qui est un signal sur la façon dont il est proposé plutôt qu'une affirmation sur ses capacités ; si vous avez besoin d'un membre plus grand ou plus capable de la même famille, comparez avec les autres modèles Inkling sur api14.