Thinking Machines: Inkling

Thinking Machines: Inkling es un modelo multimodal de mezcla de expertos con pesos abiertos de Thinking Machines Lab. Tiene 41B de parámetros activos sobre 975B en total, y está diseñado para razonamiento de propósito general, programación, sistemas agénticos y de uso de herramientas. En api14 aparece bajo el id de modelo thinkingmachines/inkling y corresponde a la categoría de texto.

El modelo acepta texto, imagen y audio como entrada y produce texto como salida, por lo que puede trabajar con prompts de medios mixtos en lugar de solo texto. Su ventana de contexto es de 524.288 tokens, y la salida máxima es de 471.859 tokens. Esa combinación de una ventana de entrada larga y un presupuesto de salida amplio lo hace adecuado para tareas en las que hay que leer mucho material y escribir una cantidad sustancial de texto en una sola solicitud.

Los usos prácticos se derivan de esas capacidades. Documentos largos, bases de código grandes y transcripciones extensas se pueden pasar sin un troceado agresivo, lo que ayuda con la generación y revisión de código, el razonamiento de varios pasos sobre material fuente extenso y los sistemas agénticos o de uso de herramientas que necesitan mantener mucho estado en contexto. Como las imágenes y el audio se pueden proporcionar junto con el texto, el mismo modelo puede manejar prompts que mezclan una captura de pantalla o una grabación con instrucciones escritas, y luego devolver una respuesta de texto. Los parámetros de razonamiento y de herramientas también apuntan a flujos de trabajo en los que el modelo planifica, llama a herramientas e informa resultados.

Se llama a través de la API compatible con OpenAI de api14 usando el id de modelo thinkingmachines/inkling. Los parámetros de solicitud admitidos son frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k y top_p. El uso de herramientas se configura con tools y tool_choice, la longitud de salida con max_tokens, el comportamiento de muestreo con temperature, top_p, top_k, min_p y los parámetros de penalización, y el comportamiento de razonamiento con reasoning, reasoning_effort e include_reasoning. Se puede establecer un seed para un muestreo reproducible, y se pueden proporcionar secuencias de parada para terminar la generación en puntos elegidos.

La principal restricción que hay que tener en cuenta es que la salida es solo texto, por lo que las tareas que requieren generar imágenes o audio quedan fuera de su alcance. Si tu carga de trabajo es puramente de texto y no necesita las entradas multimodales ni el contexto largo, un modelo más pequeño solo de texto puede encajar mejor. Para prompts de medios mixtos, entradas muy largas o agentes impulsados por herramientas, Inkling es la elección adecuada entre los modelos disponibles aquí.