IBM: Granite 4.0 Micro

IBM Granite 4.0 Micro, listado en api14 como ibm-granite/granite-4.0-h-micro, es un modelo de texto de la familia Granite 4 de IBM. Es un modelo de 3B parámetros, e IBM describe la familia Granite 4 como la más reciente de una serie de modelos que la compañía ha lanzado. Esta variante en particular es el miembro H-Micro de esa familia, e IBM afirma que la familia está ajustada para tareas largas, lo que hace que el tamaño Micro sea un punto de entrada accesible a la línea Granite 4 para equipos que quieren la generación más nueva de IBM sin pasar a un modelo más grande.

El modelo trabaja con entrada de texto y produce únicamente salida de texto; no acepta imágenes ni audio, y no genera nada que no sea texto. Su ventana de contexto es de 131.000 tokens, y la salida máxima es de 117.900 tokens. Esa combinación de un contexto grande y un margen de salida muy amplio significa que puedes enviar documentos largos en una sola solicitud y aún dejar un espacio sustancial para la respuesta del modelo, lo cual es inusual para un modelo de este tamaño.

Los usos prácticos se derivan de esas cifras. Resumir informes largos, contratos o transcripciones cabe cómodamente dentro de la ventana de contexto. La extracción y la generación estructurada también encajan de forma natural, ya que el modelo admite response_format y un techo de salida largo le permite emitir objetos JSON grandes o documentos de varias secciones en una sola llamada. Como el límite de salida es generoso en relación con la ventana de entrada, las tareas en las que la respuesta es en sí misma extensa, como reescribir, expandir o redactar pasajes largos a partir de material de origen, son viables. El chat general, la clasificación, el etiquetado y los agentes ligeros sobre datos de texto también son puntos de partida razonables.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo ibm-granite/granite-4.0-h-micro, por lo que los SDK y clientes de OpenAI existentes funcionan con solo un cambio de URL base y clave. Los parámetros de solicitud admitidos son frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, temperature, top_k, top_logprobs y top_p. Ese conjunto cubre el control de muestreo (temperature, top_p, top_k, min_p), el manejo de repeticiones (frequency_penalty, presence_penalty, repetition_penalty), los reintentos deterministas mediante seed, la salida estructurada mediante response_format, y la inspección a nivel de token a través de logprobs y top_logprobs.

No hay una limitación declarada más allá de la entrada y salida solo de texto, y vale la pena señalar que es un modelo de 3B parámetros, así que si necesitas visión, audio o un modelo mucho más grande, otra opción en api14 puede convenirte mejor. Por lo demás, para trabajo de texto con contexto largo y un techo de salida alto, vale la pena probarlo directamente.