Thinking Machines: Inkling Small (free)

Thinking Machines: Inkling Small (free) är en textmodell från Thinking Machines. Det är en öppen vikt multimodal mixture-of-experts-modell från Thinking Machines Lab, med 12B aktiva parametrar av totalt 276B. Leverantören beskriver den som den mindre, mer effektiva medlemmen i sin familj, vilket säger var den ligger i sortimentet: ett kompakt alternativ snarare än den största modellen labbet erbjuder.

Modellen tar text, bild och ljud som indata, och den producerar endast text. Den kombinationen gör den till en multimodal läsare snarare än en generator av media: du kan ge den skriftliga prompter, bilder eller ljud och få skriftliga svar tillbaka. Dess kontextfönster är 1 048 576 tokens, och maximal utdata är 262 144 tokens. Kontextlängden är rubriksiffran här, eftersom den är tillräckligt stor för att rymma mycket långa dokument, långa transkriptioner eller utökade konversationer i en enda förfrågan utan chunkning.

Dessa förmågor pekar mot en ganska specifik uppsättning användningsområden. Arbete med långa dokument är det uppenbara: sammanfatta, extrahera strukturerad data från, eller svara på frågor över stora filer som annars skulle behöva delas upp över många anrop. Eftersom bilder och ljud accepteras som indata kan samma modell hantera uppgifter som att beskriva eller extrahera text från bilder, eller arbeta över inspelat tal, utan ett separat transkriptionssteg. Stöd för resonemang innebär att den också kan användas för problem där du vill att modellen arbetar sig genom steg innan den svarar, och tool calling låter den sitta inuti en agentloop som når ut till externa funktioner.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t "thinkingmachines/inkling-small:free". De stödda förfrågningsparametrarna är frequency_penalty, include_reasoning, max_tokens, presence_penalty, reasoning, reasoning_effort, seed, stop, temperature, tools och top_p. I praktiken täcker det de vanliga samplingskontrollerna (temperature, top_p, frequency- och presence-straff, stop-sekvenser, seed för reproducerbarhet), utdatalängd via max_tokens, och alternativen för resonemang och verktyg: reasoning och include_reasoning för att styra huruvida resonemang returneras, reasoning_effort för att styra hur mycket ansträngning som läggs ned, och tools för funktionsanrop.

Två saker är värda att kontrollera innan du bestämmer dig. Modellen producerar endast text, så om du behöver genererade bilder eller ljud är den inte rätt val. Och även om kontextfönstret är mycket stort bär den kostnadsfria varianten suffixet ":free" i sitt modell-id, vilket är en signal om hur den erbjuds snarare än ett uttalande om kapacitet; om du behöver en större eller mer kapabel medlem av samma familj, jämför med de andra Inkling-modellerna på api14.