Thinking Machines: Inkling Small

Thinking Machines: Inkling Small es un modelo multimodal de mezcla de expertos con pesos abiertos de Thinking Machines Lab. Tiene 12B parámetros activos de 276B en total, y se posiciona como el miembro más pequeño y eficiente de la familia Inkling. La fecha de lanzamiento del proveedor es 2026-07-30. Debido a que los pesos son abiertos, los equipos que necesitan inspeccionar, autoalojar o ajustar finamente un modelo tienen esa opción, mientras que el endpoint alojado en api14 está disponible para quienes prefieren no ejecutar la infraestructura por sí mismos.

El modelo acepta entradas de texto, imagen y audio y devuelve texto. Su ventana de contexto es de 524288 tokens, y la salida máxima es de 262144 tokens, por lo que puede recibir documentos muy grandes, grabaciones largas o conjuntos de imágenes junto con un prompt y aún así producir una respuesta larga en una sola llamada. El diseño de mezcla de expertos significa que solo una fracción del total de parámetros está activa por token, lo cual es la razón principal por la que un modelo de este tamaño puede servirse con latencia y rendimiento razonables. El comportamiento de razonamiento se expone a través de la API, por lo que puedes decidir cuánta deliberación interna quieres antes de la respuesta final.

Esas capacidades apuntan a un conjunto de usos bastante específico. El trabajo de contexto largo es el encaje obvio: resumir o consultar bases de código grandes, conjuntos de contratos, corpus de investigación o historiales de tickets de soporte que no cabrían en una ventana más pequeña. La entrada multimodal lo hace útil para tareas que mezclan formatos, como extraer datos estructurados de documentos escaneados con imágenes incrustadas, transcribir y luego razonar sobre audio, o responder preguntas sobre una captura de pantalla más un brief escrito. El soporte de llamadas a herramientas y razonamiento se adapta a flujos de trabajo estilo agente donde el modelo necesita decidir qué función invocar y luego explicar su resultado.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo "thinkingmachines/inkling-small". Los parámetros de solicitud soportados son frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k y top_p. Si ya tienes código escrito contra la forma de chat completions de OpenAI, cambiar a este modelo es principalmente cuestión de cambiar la cadena del modelo y, si quieres salida de razonamiento, establecer include_reasoning o reasoning_effort.

Es un modelo de salida de texto, por lo que cualquier cosa que requiera imágenes, audio o video generados queda fuera de alcance aquí. El límite de salida de 262144 tokens es generoso pero aún finito, lo cual importa para trabajos de generación muy largos. Si tu carga de trabajo es pequeña, sensible a la latencia y puramente textual, un modelo más ligero puede ser más barato de ejecutar, y si necesitas modalidades de salida más allá del texto, necesitarás un modelo diferente.