Thinking Machines: Inkling Small

Thinking Machines: Inkling Small is een open-weight multimodaal mixture-of-experts model van Thinking Machines Lab. Het heeft 12B actieve parameters van de 276B totale, en het is gepositioneerd als het kleinere, efficiëntere lid van de Inkling-familie. De releasedatum van de provider is 2026-07-30. Omdat de weights open zijn, hebben teams die een model willen inspecteren, zelf hosten of fine-tunen die optie, terwijl het gehoste endpoint op api14 beschikbaar is voor degenen die de infrastructuur liever niet zelf draaien.

Het model accepteert tekst-, afbeeldings- en audio-invoer en retourneert tekst. Het contextvenster is 524288 tokens, en de maximale uitvoer is 262144 tokens, dus het kan zeer grote documenten, lange opnames of afbeeldingssets samen met een prompt verwerken en toch een lang antwoord produceren in een enkele aanroep. Het mixture-of-experts ontwerp betekent dat slechts een fractie van de totale parameters actief is per token, wat de belangrijkste reden is dat een model van deze omvang kan worden geserveerd met redelijke latency en throughput. Redeneergedrag wordt via de API blootgesteld, zodat u kunt beslissen hoeveel interne overweging u wilt voordat het definitieve antwoord komt.

Die mogelijkheden wijzen op een vrij specifieke set toepassingen. Lang-context werk is de voor de hand liggende match: het samenvatten van of queryen over grote codebases, contractensets, onderzoekscorpora of supportticketgeschiedenissen die niet in een kleiner venster zouden passen. Multimodale invoer maakt het nuttig voor taken die formaten mixen, zoals het extraheren van gestructureerde data uit gescande documenten met ingebedde afbeeldingen, het transcriberen en vervolgens redeneren over audio, of het beantwoorden van vragen over een screenshot plus een geschreven briefing. Tool calling en reasoning-ondersteuning passen bij agent-achtige workflows waarbij het model moet beslissen welke functie het aanroept en vervolgens het resultaat moet uitleggen.

U roept het aan via de OpenAI-compatibele API van api14 met het model-id "thinkingmachines/inkling-small". De ondersteunde request-parameters zijn frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k en top_p. Als u al code hebt geschreven tegen de OpenAI chat completions-vorm, is overstappen naar dit model vooral een kwestie van de model-string wijzigen en, als u reasoning-uitvoer wilt, include_reasoning of reasoning_effort instellen.

Het is een tekst-uitvoer model, dus alles wat gegenereerde afbeeldingen, audio of video vereist valt hier buiten scope. De limiet van 262144 tokens voor uitvoer is ruim, maar nog steeds eindig, wat van belang is voor zeer lange generatietaken. Als uw workload klein, latency-gevoelig en puur tekstueel is, kan een lichter model goedkoper zijn om te draaien, en als u uitvoermodaliteiten buiten tekst nodig hebt, heeft u een ander model nodig.