OpenAI: GPT-4o-mini (2024-07-18)

GPT-4o-mini (2024-07-18) ist ein Textgenerierungsmodell von OpenAI, veröffentlicht am 18. Juli 2024. Es gehört zur Kleinmodell-Reihe von OpenAI und wird vom Anbieter als sein fortschrittlichstes kleines Modell sowie als Nachfolger von GPT-4 Omni in dieser Stufe positioniert. Die versionierte Modell-ID legt den Snapshot auf den 2024-07-18 fest, sodass das Verhalten über Aufrufe hinweg konsistent bleibt und sich nicht mit einem floatenden Alias verschiebt.

Das Modell akzeptiert Text, Bilder und Dateien als Eingabe und gibt ausschließlich Text zurück. Es hat ein Kontextfenster von 128.000 Tokens und kann in einer einzigen Antwort bis zu 16.384 Ausgabe-Tokens erzeugen. Sein Wissensstand endet am 31. Oktober 2023, sodass alles nach diesem Datum aus dem Prompt, aus von Ihnen bereitgestellten Dateien oder aus einem Suchwerkzeug kommen muss. Da Bildeingabe unterstützt wird, können Sie Screenshots, gescannte Seiten oder Diagramme zusammen mit Textanweisungen übergeben und erhalten eine Textantwort zurück.

Diese Fähigkeiten eignen sich für eine Reihe alltäglicher Entwickleraufgaben. Dokument- und Dateieingabe funktioniert gut für Zusammenfassung, Extraktion und Fragebeantwortung über Verträge, Berichte oder PDFs, während Bildeingabe das Lesen von Diagrammen, Belegen, UI-Screenshots und fotografiertem Text abdeckt. Der 128k-Kontext ermöglicht es Ihnen, lange Transkripte, Codebasen oder Multi-Dokument-Bündel zu senden, ohne sie vorher aufzuteilen. Tool-Aufrufe und strukturierte Ausgaben machen es zu einer vernünftigen Wahl für Agenten, Funktions-Routing und Pipelines, die JSON nach einem Schema benötigen, und die Parameter seed, temperature und penalty geben Ihnen Kontrolle darüber, wie deterministisch oder variiert die Ausgabe ist.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID "openai/gpt-4o-mini-2024-07-18" auf. Da die Schnittstelle der Form der OpenAI-Chat-Completions folgt, funktionieren bestehende OpenAI-SDKs und Clients mit einer Änderung der Basis-URL. Die unterstützten Anforderungsparameter sind frequency_penalty, logit_bias, logprobs, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p und web_search_options. Das deckt Sampling-Steuerung, Token-Limits, Stoppsequenzen, Inspektion von Log-Wahrscheinlichkeiten, JSON- und schema-eingeschränkte Ausgabe, Tool-Definitionen und erzwungene Tool-Auswahl sowie Web-Suchoptionen ab.

Zwei Einschränkungen sind vor einer Festlegung erwähnenswert. Die Ausgabe ist ausschließlich Text, wenn Sie also generierte Bilder, Audio oder Embeddings benötigen, ist dieses Modell nicht passend. Der Wissensstand vom 31. Oktober 2023 bedeutet, dass zeitkritische Fragen Retrieval, Dateieingabe oder Web-Suchoptionen erfordern, statt sich auf das eigene Wissen des Modells zu verlassen. Und die Obergrenze von 16.384 Ausgabe-Tokens begrenzt, wie lang eine einzelne Antwort sein kann, was für Langform-Generierungsaufgaben wichtig ist.