OpenAI: GPT-4o (2024-05-13)

GPT-4o (2024-05-13) ist ein Textmodell von OpenAI. Das "o" steht für "omni", und diese Veröffentlichung ist auf den 13. Mai 2024 datiert. Es ist darauf ausgelegt, sowohl Text- als auch Bildeingaben zu akzeptieren und dabei Textausgaben zurückzugeben, und OpenAI beschreibt es als Modell, das das Intelligenzniveau von GPT-4 Turbo beibehält und gleichzeitig schneller ist. Wenn Sie ein Allzweckmodell von OpenAI für eine neue Integration auswählen, ist dies die Version, die durch die Modell-ID openai/gpt-4o-2024-05-13 identifiziert wird.

Bei den Eingaben akzeptiert das Modell Text, Bilder und Dateien, und es erzeugt ausschließlich Text. Das Kontextfenster umfasst 128.000 Token, sodass lange Dokumente, große Codedateien oder ausgedehnte Konversationen in einer einzigen Anfrage übergeben werden können. Die maximale Ausgabe beträgt 4.096 Token, was wichtig ist, wenn Sie lange Generierungen planen, da die Antwort an diesem Punkt abgeschnitten wird, unabhängig davon, wie viel Platz im Kontext noch verbleibt. Der Wissensstand reicht bis zum 31. Oktober 2023, sodass alles nach diesem Datum aus dem Prompt, aus Tools oder aus einer Websuche stammen muss und nicht aus dem eigenen Training des Modells.

Diese Fähigkeiten deuten auf einige praktische Einsatzmöglichkeiten hin. Da es Bilder ebenso wie Text liest, eignet es sich für Aufgaben wie das Extrahieren strukturierter Daten aus Screenshots, gescannten Seiten oder Diagrammen, das Beschreiben visueller Inhalte oder das Beantworten von Fragen zu einem Diagramm zusammen mit einer schriftlichen Aufgabenstellung. Das große Kontextfenster macht es brauchbar für Dokumentenfragen und -antworten, das Zusammenfassen langer Berichte und die Überprüfung umfangreicher Codebasen in einem Durchgang. Die Unterstützung von Tools und strukturierten Ausgaben macht es zu einer vernünftigen Wahl für agentenartige Workflows und für Pipelines, in denen das Modell JSON zurückgeben muss, das ein anderer Dienst parst.

Über api14 rufen Sie es mit der Modell-ID openai/gpt-4o-2024-05-13 über die OpenAI-kompatible API auf, sodass bestehende OpenAI SDKs und Clients mit einer Änderung der Basis-URL und des Schlüssels funktionieren. Die unterstützten Anfrageparameter sind frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p und web_search_options. Tools und tool_choice decken Funktionsaufrufe ab, response_format und structured_outputs decken eingeschränkte Ausgabeformen ab, und seed unterstützt eine besser reproduzierbare Stichprobenentnahme.

Zwei Grenzen sollten bei der Planung berücksichtigt werden. Die Obergrenze von 4.096 Token für die Ausgabe ist bescheiden für das Verfassen langer Texte, sodass Aufgaben, die sehr lange einzelne Antworten erfordern, möglicherweise besser zu einem anderen Modell passen, und der Wissensstand vom Oktober 2023 bedeutet, dass zeitkritische Fragen mit Tools oder Websuche behandelt werden sollten, anstatt sich auf das Gedächtnis des Modells zu verlassen.