Thinking Machines: Inkling

Thinking Machines: Inkling ist ein offenes Multimodell mit Gewichten (open-weight) und ein Mixture-of-Experts-Modell von Thinking Machines Lab. Es hat 41B aktive Parameter bei insgesamt 975B und ist für allgemeines Reasoning, Coding, agentische Systeme und Tool-Use-Systeme konzipiert. Auf api14 ist es unter der Modell-ID thinkingmachines/inkling gelistet und fällt in die Kategorie Text.

Das Modell akzeptiert Text, Bilder und Audio als Eingabe und erzeugt Text als Ausgabe, sodass es mit gemischten Medien-Prompts statt nur mit Text arbeiten kann. Sein Kontextfenster beträgt 524.288 Token, und die maximale Ausgabe beträgt 471.859 Token. Diese Kombination aus langem Eingabefenster und großem Ausgabebudget macht es geeignet für Aufgaben, bei denen viel Material gelesen und eine beträchtliche Menge Text in einer einzigen Anfrage zurückgeschrieben werden muss.

Praktische Anwendungen ergeben sich aus diesen Fähigkeiten. Lange Dokumente, große Codebasen und ausgedehnte Transkripte können ohne starkes Chunking übergeben werden, was bei Codegenerierung und Review, mehrstufigem Reasoning über umfangreiches Quellmaterial und agentischen oder Tool-Use-Systemen hilft, die viel Zustand im Kontext halten müssen. Da Bilder und Audio zusammen mit Text bereitgestellt werden können, kann dasselbe Modell Prompts verarbeiten, die einen Screenshot oder eine Aufnahme mit schriftlichen Anweisungen mischen, und dann eine Textantwort zurückgeben. Die Reasoning- und Tool-Parameter weisen zudem auf Workflows hin, in denen das Modell plant, Tools aufruft und Ergebnisse meldet.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID thinkingmachines/inkling auf. Die unterstützten Anfrageparameter sind frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k und top_p. Tool-Nutzung wird mit tools und tool_choice konfiguriert, die Ausgabelänge mit max_tokens, das Sampling-Verhalten mit temperature, top_p, top_k, min_p und den Penalty-Parametern, und das Reasoning-Verhalten mit reasoning, reasoning_effort und include_reasoning. Ein seed kann für reproduzierbares Sampling gesetzt werden, und stop-Sequenzen können angegeben werden, um die Generierung an gewählten Punkten zu beenden.

Die wichtigste Einschränkung, die Sie beachten sollten, ist, dass die Ausgabe nur Text ist, sodass Aufgaben, die das Generieren von Bildern oder Audio erfordern, außerhalb seines Umfangs liegen. Wenn Ihre Arbeitslast rein textbasiert ist und die multimodalen Eingaben oder der lange Kontext nicht benötigt werden, kann ein kleineres Text-only-Modell einfacher passen. Für gemischte Medien-Prompts, sehr lange Eingaben oder tool-gesteuerte Agenten ist Inkling die passende Wahl unter den hier verfügbaren Modellen.