Thinking Machines: Inkling Small

Thinking Machines: Inkling Small to otwarty model multimodalny typu mixture-of-experts od Thinking Machines Lab. Ma 12B aktywnych parametrów z 276B całkowitych i jest pozycjonowany jako mniejszy, bardziej wydajny członek rodziny Inkling. Data wydania przez dostawcę to 2026-07-30. Ponieważ wagi są otwarte, zespoły, które potrzebują sprawdzić, hostować samodzielnie lub dostroić model, mają taką opcję, a hostowany endpoint na api14 jest dostępny dla tych, którzy wolą nie uruchamiać infrastruktury samodzielnie.

Model przyjmuje dane wejściowe tekstowe, obrazowe i audio, a zwraca tekst. Jego okno kontekstu wynosi 524288 tokenów, a maksymalne wyjście to 262144 tokeny, więc może przyjąć bardzo duże dokumenty, długie nagrania lub zestawy obrazów wraz z promptem i nadal wygenerować długą odpowiedź w jednym wywołaniu. Konstrukcja mixture-of-experts oznacza, że tylko część całkowitych parametrów jest aktywna na token, co jest głównym powodem, dla którego model tej wielkości można obsługiwać z rozsądnym opóźnieniem i przepustowością. Zachowanie rozumowania jest udostępniane przez API, więc możesz zdecydować, ile wewnętrznego namysłu chcesz przed ostateczną odpowiedzią.

Te możliwości wskazują na dość konkretny zestaw zastosowań. Praca z długim kontekstem jest oczywistym dopasowaniem: streszczanie lub odpytywanie dużych baz kodu, zestawów umów, korpusów badawczych lub historii zgłoszeń wsparcia, które nie zmieściłyby się w mniejszym oknie. Wejście multimodalne czyni go użytecznym do zadań mieszających formaty, takich jak wyodrębnianie danych strukturalnych ze skanowanych dokumentów z osadzonymi obrazami, transkrybowanie, a następnie rozumowanie nad audio, lub odpowiadanie na pytania dotyczące zrzutu ekranu wraz z pisemnym briefem. Obsługa wywoływania narzędzi i rozumowania pasuje do przepływów pracy w stylu agentowym, w których model musi zdecydować, którą funkcję wywołać, a następnie wyjaśnić jej wynik.

Wywołujesz go przez kompatybilne z OpenAI API api14, używając identyfikatora modelu "thinkingmachines/inkling-small". Obsługiwane parametry żądania to frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k i top_p. Jeśli masz już kod napisany pod kształt OpenAI chat completions, przełączenie na ten model to głównie kwestia zmiany ciągu modelu i, jeśli chcesz uzyskać wyjście rozumowania, ustawienia include_reasoning lub reasoning_effort.

To model z wyjściem tekstowym, więc wszystko, co wymaga generowanych obrazów, audio lub wideo, jest tutaj poza zakresem. Limit wyjścia 262144 tokenów jest hojny, ale wciąż skończony, co ma znaczenie przy bardzo długich zadaniach generowania. Jeśli twoje obciążenie jest małe, wrażliwe na opóźnienia i czysto tekstowe, lżejszy model może być tańszy w uruchomieniu, a jeśli potrzebujesz modalności wyjściowych wykraczających poza tekst, będziesz potrzebować innego modelu.