Thinking Machines: Inkling Small (free)

Thinking Machines: Inkling Small (free) ist ein Textmodell von Thinking Machines. Es ist ein offenes multimodales Mixture-of-Experts-Modell von Thinking Machines Lab, mit 12B aktiven Parametern von insgesamt 276B. Der Anbieter beschreibt es als das kleinere, effizientere Mitglied seiner Familie, was zeigt, wo es in der Produktpalette steht: eine kompakte Option und nicht das größte Modell, das das Labor anbietet.

Das Modell akzeptiert Text, Bilder und Audio als Eingabe und erzeugt ausschließlich Text. Diese Kombination macht es zu einem multimodalen Leser statt zu einem Generator von Medien: Sie können ihm geschriebene Prompts, Bilder oder Audio übergeben und erhalten geschriebene Antworten zurück. Sein Kontextfenster beträgt 1.048.576 Token, und die maximale Ausgabe liegt bei 262.144 Token. Die Kontextlänge ist hier die zentrale Zahl, denn sie ist groß genug, um sehr lange Dokumente, lange Transkripte oder ausgedehnte Gespräche in einer einzigen Anfrage ohne Aufteilung aufzunehmen.

Diese Fähigkeiten deuten auf eine ziemlich spezifische Gruppe von Anwendungen hin. Arbeit mit langen Dokumenten ist die offensichtliche: Zusammenfassen, Extrahieren strukturierter Daten aus oder Beantworten von Fragen zu großen Dateien, die sonst über viele Aufrufe aufgeteilt werden müssten. Da Bilder und Audio als Eingabe akzeptiert werden, kann dasselbe Modell Aufgaben wie das Beschreiben oder Extrahieren von Text aus Bildern übernehmen oder mit aufgezeichneter Sprache arbeiten, ohne einen separaten Transkriptionsschritt. Die Unterstützung von Reasoning bedeutet, dass es auch für Probleme verwendet werden kann, bei denen das Modell Schritte durcharbeiten soll, bevor es antwortet, und Tool Calling ermöglicht es, in einer Agent-Schleife zu sitzen, die auf externe Funktionen zugreift.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID "thinkingmachines/inkling-small:free" auf. Die unterstützten Anfrageparameter sind frequency_penalty, include_reasoning, max_tokens, presence_penalty, reasoning, reasoning_effort, seed, stop, temperature, tools und top_p. In der Praxis deckt das die üblichen Sampling-Steuerungen ab (temperature, top_p, frequency und presence penalties, stop-Sequenzen, seed für Reproduzierbarkeit), die Ausgabelänge über max_tokens sowie die Reasoning- und Tool-bezogenen Optionen: reasoning und include_reasoning, um zu steuern, ob Reasoning zurückgegeben wird, reasoning_effort, um zu lenken, wie viel Aufwand betrieben wird, und tools für Function Calling.

Zwei Dinge sollten Sie prüfen, bevor Sie sich festlegen. Das Modell gibt ausschließlich Text aus, wenn Sie also generierte Bilder oder Audio benötigen, ist es nicht die richtige Wahl. Und obwohl das Kontextfenster sehr groß ist, trägt die kostenlose Variante das Suffix ":free" in ihrer Modell-ID, was ein Hinweis darauf ist, wie sie angeboten wird, und keine Aussage über die Fähigkeiten; wenn Sie ein größeres oder leistungsfähigeres Mitglied derselben Familie benötigen, vergleichen Sie mit den anderen Inkling-Modellen auf api14.