OpenAI: GPT-4o (2024-08-06)

GPT-4o (2024-08-06) ist ein Textgenerierungsmodell von OpenAI, das auf api14 als openai/gpt-4o-2024-08-06 identifiziert wird. Es ist die Version von GPT-4o, die am 2024-08-06 veröffentlicht wurde, und OpenAI positioniert es als ein Update, das strukturierte Ausgaben verbessert, einschließlich der Möglichkeit, ein JSON-Schema im Feld response_format anzugeben. Das "o" im Namen steht für "omni" und spiegelt ein Modell wider, das darauf ausgelegt ist, mehr als nur reinen Text zu verarbeiten.

Das Modell akzeptiert Text, Bilder und Dateien als Eingabe und erzeugt Text als Ausgabe. Es hat ein Kontextfenster von 128.000 Tokens und kann bis zu 16.384 Ausgabe-Tokens pro Anfrage generieren. Sein Wissensstand endet am 2023-10-31, sodass alles nach diesem Datum außerhalb dessen liegt, was es während des Trainings gelernt hat. Da die Eingabe Bilder und Dateien neben Text enthalten kann, kann es mit gemischten Prompts statt nur mit Text arbeiten.

Diese Fähigkeiten deuten auf einige praktische Anwendungen hin. Strukturierte Ausgaben mit einem bereitgestellten JSON-Schema eignen sich für Extraktions- und Datenformungsaufgaben, bei denen das Modell Felder zurückgeben soll, die direkt geparst werden können. Tool Calling passt zu agentenartigen Workflows, die Funktionen oder externe Dienste aufrufen müssen. Bild- und Dateieingabe unterstützt Aufgaben wie das Lesen eines Screenshots, eines Diagramms oder eines Dokuments und das Beantworten von Fragen dazu. Das Kontextfenster von 128.000 Tokens ermöglicht lange Eingaben, wie umfangreiche Dokumente oder ausgedehnte Konversationen, in einer einzigen Anfrage.

Sie rufen das Modell über die OpenAI-kompatible API von api14 mit der Modell-ID openai/gpt-4o-2024-08-06 auf. Die unterstützten Anfrageparameter sind frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p und web_search_options. Da die Schnittstelle OpenAI-kompatibel ist, funktioniert vorhandener OpenAI-SDK-Code im Allgemeinen mit einer Änderung der Basis-URL und der Modell-ID.

Einige Einschränkungen sind bei der Auswahl zu beachten. Die Ausgabe ist nur Text, wenn Sie also generierte Bilder oder Audio benötigen, ist dieses Modell nicht geeignet. Der Wissensstand vom 2023-10-31 bedeutet, dass aktuelle Ereignisse nicht abgedeckt sind, es sei denn, Sie stellen die Informationen im Prompt bereit oder verwenden web_search_options. Wenn Ihre Arbeitslast klein und einfach ist, kann ein leichteres Modell ausreichen, während dieses auf Aufgaben ausgerichtet ist, die von seinem Kontextfenster, multimodaler Eingabe und Unterstützung für strukturierte Ausgaben profitieren.