Thinking Machines: Inkling Small (free)

Thinking Machines: Inkling Small (free) è un modello testuale di Thinking Machines. È un modello misto di esperti multimodale a pesi aperti di Thinking Machines Lab, con 12B parametri attivi su 276B totali. Il fornitore lo descrive come il membro più piccolo ed efficiente della sua famiglia, il che indica dove si colloca nella gamma: un'opzione compatta anziché il modello più grande offerto dal laboratorio.

Il modello accetta testo, immagini e audio come input, e produce solo testo. Questa combinazione lo rende un lettore multimodale anziché un generatore di media: puoi fornirgli prompt scritti, immagini o audio e ottenere risposte scritte. La sua finestra di contesto è di 1.048.576 token, e l'output massimo è di 262.144 token. La lunghezza del contesto è il numero principale qui, poiché è abbastanza grande da contenere documenti molto lunghi, trascrizioni lunghe o conversazioni estese in una singola richiesta senza suddivisione.

Queste capacità indicano un insieme di utilizzi piuttosto specifico. Il lavoro su documenti lunghi è quello più ovvio: riassumere, estrarre dati strutturati o rispondere a domande su file di grandi dimensioni che altrimenti dovrebbero essere divisi in molte chiamate. Poiché immagini e audio sono accettati come input, lo stesso modello può gestire attività come descrivere o estrarre testo dalle immagini, o lavorare su parlato registrato, senza un passaggio di trascrizione separato. Il supporto al ragionamento significa che può essere utilizzato anche per problemi in cui vuoi che il modello elabori i passaggi prima di rispondere, e il tool calling gli consente di operare all'interno di un ciclo di agente che richiama funzioni esterne.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando l'id del modello "thinkingmachines/inkling-small:free". I parametri di richiesta supportati sono frequency_penalty, include_reasoning, max_tokens, presence_penalty, reasoning, reasoning_effort, seed, stop, temperature, tools e top_p. In pratica questo copre i consueti controlli di campionamento (temperature, top_p, penalità di frequenza e presenza, sequenze di stop, seed per la riproducibilità), la lunghezza dell'output tramite max_tokens, e le opzioni relative al ragionamento e agli strumenti: reasoning e include_reasoning per controllare se il ragionamento viene restituito, reasoning_effort per guidare quanto sforzo viene impiegato, e tools per il function calling.

Due cose vale la pena verificare prima di impegnarti. Il modello produce solo testo, quindi se hai bisogno di immagini o audio generati, non è la scelta giusta. E sebbene la finestra di contesto sia molto ampia, la variante gratuita porta il suffisso ":free" nel suo id del modello, che è un segnale su come viene offerto anziché un'affermazione sulla capacità; se hai bisogno di un membro più grande o più capace della stessa famiglia, confrontalo con gli altri modelli Inkling su api14.