Thinking Machines: Inkling

Thinking Machines: Inkling is een open-weight multimodaal mixture-of-experts-model van Thinking Machines Lab. Het heeft 41B actieve parameters van in totaal 975B, en het is ontworpen voor algemeen redeneren, coderen, agentische systemen en systemen voor toolgebruik. Op api14 staat het vermeld onder de model-id thinkingmachines/inkling en valt het in de categorie tekst.

Het model accepteert tekst, afbeeldingen en audio als invoer en produceert tekst als uitvoer, zodat het kan werken met prompts van gemengde media in plaats van alleen tekst. Het contextvenster is 524.288 tokens, en de maximale uitvoer is 471.859 tokens. Die combinatie van een lang invoervenster en een groot uitvoerbudget maakt het geschikt voor taken waarbij veel materiaal moet worden gelezen en een aanzienlijke hoeveelheid tekst in één verzoek moet worden teruggeschreven.

Praktische toepassingen volgen uit die mogelijkheden. Lange documenten, grote codebases en uitgebreide transcripten kunnen worden aangeleverd zonder zware chunking, wat helpt bij codegeneratie en codebeoordeling, meerstapsredeneringen over lang bronmateriaal, en agentische systemen of systemen voor toolgebruik die veel status in de context moeten houden. Omdat afbeeldingen en audio samen met tekst kunnen worden aangeleverd, kan hetzelfde model prompts verwerken die een schermafbeelding of een opname combineren met schriftelijke instructies, en vervolgens een tekstantwoord retourneren. De parameters voor redeneren en tools wijzen ook op workflows waarin het model plant, tools aanroept en resultaten rapporteert.

Je roept het aan via de OpenAI-compatibele API van api14 met de model-id thinkingmachines/inkling. De ondersteunde verzoekparameters zijn frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k en top_p. Toolgebruik wordt geconfigureerd met tools en tool_choice, uitvoerlengte met max_tokens, samplinggedrag met temperature, top_p, top_k, min_p en de strafparameters, en redeneergedrag met reasoning, reasoning_effort en include_reasoning. Een seed kan worden ingesteld voor reproduceerbare sampling, en stopsequenties kunnen worden aangeleverd om de generatie op gekozen punten te beëindigen.

De belangrijkste beperking om in gedachten te houden is dat de uitvoer alleen tekst is, dus taken waarbij afbeeldingen of audio moeten worden gegenereerd vallen buiten het bereik. Als je workload puur tekst is en de multimodale invoer of de lange context niet nodig heeft, kan een kleiner tekst-only model een eenvoudigere keuze zijn. Voor prompts van gemengde media, zeer lange invoer of toolgestuurde agents is Inkling de passende keuze onder de modellen die hier beschikbaar zijn.