Thinking Machines: Inkling Small (free)

Thinking Machines: Inkling Small (free) es un modelo de texto de Thinking Machines. Es un modelo multimodal de mezcla de expertos con pesos abiertos de Thinking Machines Lab, con 12B parámetros activos de 276B en total. El proveedor lo describe como el miembro más pequeño y eficiente de su familia, lo que indica dónde se sitúa en la línea de productos: una opción compacta en lugar del modelo más grande que ofrece el laboratorio.

El modelo acepta texto, imagen y audio como entrada, y produce únicamente texto. Esa combinación lo convierte en un lector multimodal en lugar de un generador de medios: puedes darle indicaciones escritas, imágenes o audio y obtener respuestas escritas. Su ventana de contexto es de 1.048.576 tokens, y la salida máxima es de 262.144 tokens. La longitud del contexto es la cifra destacada aquí, ya que es lo suficientemente grande como para contener documentos muy largos, transcripciones extensas o conversaciones prolongadas en una sola solicitud sin fragmentación.

Esas capacidades apuntan a un conjunto de usos bastante específico. El trabajo con documentos largos es el más obvio: resumir, extraer datos estructurados o responder preguntas sobre archivos grandes que de otro modo tendrían que dividirse en muchas llamadas. Como se aceptan imágenes y audio como entrada, el mismo modelo puede manejar tareas como describir o extraer texto de imágenes, o trabajar sobre habla grabada, sin un paso de transcripción separado. El soporte de razonamiento significa que también se puede usar para problemas en los que quieres que el modelo trabaje por pasos antes de responder, y el llamamiento de herramientas le permite situarse dentro de un bucle de agente que recurre a funciones externas.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo "thinkingmachines/inkling-small:free". Los parámetros de solicitud admitidos son frequency_penalty, include_reasoning, max_tokens, presence_penalty, reasoning, reasoning_effort, seed, stop, temperature, tools y top_p. En la práctica, eso cubre los controles de muestreo habituales (temperature, top_p, penalizaciones de frecuencia y presencia, secuencias de parada, seed para reproducibilidad), la longitud de salida mediante max_tokens, y las opciones relacionadas con el razonamiento y las herramientas: reasoning e include_reasoning para controlar si se devuelve el razonamiento, reasoning_effort para dirigir cuánto esfuerzo se dedica, y tools para el llamamiento de funciones.

Hay dos cosas que conviene comprobar antes de comprometerse. El modelo produce únicamente texto, así que si necesitas imágenes o audio generados, no es la opción adecuada. Y aunque la ventana de contexto es muy grande, la variante gratuita lleva el sufijo ":free" en su id de modelo, lo cual es una señal sobre cómo se ofrece en lugar de una afirmación sobre su capacidad; si necesitas un miembro más grande o más capaz de la misma familia, compáralo con los otros modelos Inkling en api14.