OpenAI: GPT-4o-mini

GPT-4o-mini ist ein Textgenerierungsmodell von OpenAI, veröffentlicht am 18. Juli 2024. Es gehört zur Kleinmodell-Reihe von OpenAI, ist in dieser Stufe als Nachfolger von GPT-4o positioniert und wurde für allgemeine Textarbeit entwickelt, nicht für eine einzelne eng gefasste Aufgabe. Wenn Sie ein Standardmodell für eine Anwendung auswählen, ist dies die Art von Modell, die eine breite Palette alltäglicher Anfragen abdecken soll.

Das Modell akzeptiert Text, Bilder und Dateien als Eingabe und gibt ausschließlich Text zurück. Sein Kontextfenster beträgt 128.000 Token, und die maximale Ausgabe liegt bei 16.384 Token. Der Wissensstand endet am 31. Oktober 2023, sodass alles nach diesem Datum außerhalb dessen liegt, was das Modell während des Trainings gelernt hat. Da Bild- und Dateieingaben neben Text unterstützt werden, können Sie gemischte Inhalte in einer einzigen Anfrage senden und eine Textantwort erhalten, was die Integration einfach hält, wenn Ihre Anwendung bereits mit Textaufforderungen arbeitet.

Diese Fähigkeiten deuten auf einige praktische Einsatzmöglichkeiten hin. Die Analyse von Dokumenten und Dateien passt naturally, da Sie eine Datei übergeben und um eine Zusammenfassung, Extraktion oder Beantwortung von Fragen zu deren Inhalt bitten können. Bildverständnis deckt Aufgaben ab wie das Beschreiben eines Screenshots, das Lesen eines Diagramms oder das Herausziehen strukturierter Details aus einem Foto. Allgemeiner Chat, Entwurf, Klassifizierung, Umschreiben und Code-Unterstützung funktionieren alle allein mit Text. Das große Kontextfenster bedeutet, dass lange Dokumente oder mehrteilige Gespräche verarbeitet werden können, ohne sie in viele kleine Anfragen aufzuteilen, und die Ausgabeobergrenze von 16.384 Token bietet Raum für längere generierte Antworten.

Sie rufen das Modell über die OpenAI-kompatible API von api14 mit der Modell-ID "openai/gpt-4o-mini" auf. Da die Schnittstelle dem OpenAI-Format folgt, funktionieren bestehende OpenAI-SDKs und Clients mit nur einer Änderung von Basis-URL und Schlüssel. Das Modell unterstützt eine breite Palette von Anfrageparametern: frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p und web_search_options. Tool-Aufrufe und strukturierte Ausgaben sind verfügbar, sodass Sie das Modell in Function-Calling-Abläufe einbinden oder Antworten in ein Schema zwingen können. Der Parameter seed hilft bei der Reproduzierbarkeit, und web_search_options ermöglicht es einer Anfrage, auf die Suche zurückzugreifen.

Zwei Grenzen sind vor einer Festlegung erwähnenswert. Der Wissensstand vom 31. Oktober 2023 bedeutet, dass das Modell keine eingebaute Kenntnis späterer Ereignisse hat, sodass zeitkritische Fragen Retrieval oder Suche erfordern, statt sich allein auf das Modell zu verlassen. Die Ausgabe ist ausschließlich Text, wenn Sie also generierte Bilder oder Audio benötigen, ist dieses Modell nicht die richtige Wahl. Innerhalb dieser Grenzen ist es ein vernünftiger Standard für Text- und Bildverständnis-Workloads.