Thinking Machines: Inkling Small

Thinking Machines: Inkling Small ist ein offenes Multimodal-Mixture-of-Experts-Modell von Thinking Machines Lab. Es hat 12B aktive Parameter von insgesamt 276B und ist als das kleinere, effizientere Mitglied der Inkling-Familie positioniert. Das Veröffentlichungsdatum des Anbieters ist der 2026-07-30. Da die Gewichte offen sind, haben Teams, die ein Modell inspizieren, selbst hosten oder feinabstimmen müssen, diese Möglichkeit, während der gehostete Endpunkt auf api14 für diejenigen verfügbar ist, die die Infrastruktur lieber nicht selbst betreiben möchten.

Das Modell akzeptiert Text-, Bild- und Audioeingaben und gibt Text zurück. Sein Kontextfenster beträgt 524288 Token, und die maximale Ausgabe beträgt 262144 Token, sodass es sehr große Dokumente, lange Aufzeichnungen oder Bildsätze zusammen mit einem Prompt aufnehmen und dennoch eine lange Antwort in einem einzigen Aufruf erzeugen kann. Das Mixture-of-Experts-Design bedeutet, dass pro Token nur ein Bruchteil der Gesamtparameter aktiv ist, was der Hauptgrund dafür ist, dass ein Modell dieser Größe mit vertretbarer Latenz und Durchsatz bereitgestellt werden kann. Das Reasoning-Verhalten wird über die API offengelegt, sodass Sie entscheiden können, wie viel interne Abwägung Sie vor der endgültigen Antwort wünschen.

Diese Fähigkeiten deuten auf eine ziemlich spezifische Gruppe von Anwendungsfällen hin. Langkontextarbeit ist die offensichtliche Passung: Zusammenfassen oder Abfragen großer Codebasen, Vertragssätze, Forschungskorpora oder Support-Ticket-Verläufe, die nicht in ein kleineres Fenster passen würden. Multimodale Eingabe macht es nützlich für Aufgaben, die Formate mischen, wie das Extrahieren strukturierter Daten aus gescannten Dokumenten mit eingebetteten Bildern, das Transkribieren und anschließende Reasoning über Audio oder das Beantworten von Fragen zu einem Screenshot plus einem schriftlichen Briefing. Tool-Aufrufe und Reasoning-Unterstützung eignen sich für agentenartige Workflows, bei denen das Modell entscheiden muss, welche Funktion aufgerufen werden soll, und dann sein Ergebnis erklären muss.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID "thinkingmachines/inkling-small" auf. Die unterstützten Anforderungsparameter sind frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k und top_p. Wenn Sie bereits Code geschrieben haben, der auf die OpenAI-Chat-Completions-Form ausgerichtet ist, ist der Wechsel zu diesem Modell hauptsächlich eine Frage des Änderns der Modellzeichenfolge und, wenn Sie Reasoning-Ausgabe wünschen, des Setzens von include_reasoning oder reasoning_effort.

Es ist ein Modell mit Textausgabe, sodass alles, was generierte Bilder, Audio oder Video erfordert, hier nicht abgedeckt ist. Die Ausgabegrenze von 262144 Token ist großzügig, aber dennoch endlich, was für sehr lange Generierungsaufträge wichtig ist. Wenn Ihre Arbeitslast klein, latenzempfindlich und rein textuell ist, kann ein leichteres Modell kostengünstiger zu betreiben sein, und wenn Sie Ausgabemodalitäten jenseits von Text benötigen, benötigen Sie ein anderes Modell.