IBM: Granite 4.0 Micro

IBM Granite 4.0 Micro, auf api14 als ibm-granite/granite-4.0-h-micro gelistet, ist ein Textmodell aus IBMs Granite-4-Familie. Es ist ein Modell mit 3B Parametern, und IBM beschreibt die Granite-4-Familie als die neueste in einer Reihe von Modellen, die das Unternehmen veröffentlicht hat. Diese spezielle Variante ist das H-Micro-Mitglied dieser Familie, und IBM gibt an, dass die Familie für lange Aufgaben feinabgestimmt ist, was die Micro-Größe zu einem zugänglichen Einstiegspunkt in die Granite-4-Reihe für Teams macht, die IBMs neuere Generation wollen, ohne zu einem größeren Modell zu wechseln.

Das Modell arbeitet mit Texteingabe und erzeugt ausschließlich Textausgabe; es akzeptiert keine Bilder oder Audiodaten, und es generiert nichts anderes als Text. Sein Kontextfenster beträgt 131.000 Token, und die maximale Ausgabe beträgt 117.900 Token. Diese Kombination aus einem großen Kontext und einer sehr großen Ausgabegrenze bedeutet, dass Sie lange Dokumente in einer einzigen Anfrage senden und trotzdem erheblichen Raum für die Antwort des Modells lassen können, was für ein Modell dieser Größe ungewöhnlich ist.

Die praktischen Einsatzmöglichkeiten ergeben sich aus diesen Zahlen. Das Zusammenfassen langer Berichte, Verträge oder Transkripte passt bequem in das Kontextfenster. Extraktion und strukturierte Generierung passen ebenfalls gut, da das Modell response_format unterstützt und eine hohe Ausgabegrenze es erlaubt, große JSON-Objekte oder Dokumente mit mehreren Abschnitten in einem Aufruf auszugeben. Da das Ausgabelimit im Verhältnis zum Eingabefenster großzügig ist, sind Aufgaben, bei denen die Antwort selbst lang ist, wie Umschreiben, Erweitern oder Entwerfen langer Passagen aus Quellmaterial, machbar. Allgemeiner Chat, Klassifizierung, Tagging und leichte Agenten über Textdaten sind ebenfalls vernünftige Ausgangspunkte.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID ibm-granite/granite-4.0-h-micro auf, sodass vorhandene OpenAI-SDKs und Clients nur mit einer Änderung der Basis-URL und des Schlüssels funktionieren. Die unterstützten Anfrageparameter sind frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, temperature, top_k, top_logprobs und top_p. Dieser Satz deckt Sampling-Steuerung ab (temperature, top_p, top_k, min_p), Wiederholungsbehandlung (frequency_penalty, presence_penalty, repetition_penalty), deterministische Wiederholungen über seed, strukturierte Ausgabe über response_format und Token-Ebene-Inspektion durch logprobs und top_logprobs.

Es gibt keine angegebene Einschränkung außer reiner Text-Ein- und -Ausgabe, und es ist erwähnenswert, dass es ein Modell mit 3B Parametern ist. Wenn Sie also Vision, Audio oder ein deutlich größeres Modell benötigen, könnte eine andere Option auf api14 besser geeignet sein. Ansonsten lohnt es sich, es für Langkontext-Textarbeit mit einer hohen Ausgabegrenze direkt zu testen.