OpenAI: GPT-4o

GPT-4o ist ein Textgenerierungsmodell von OpenAI, das auf api14 als openai/gpt-4o identifiziert wird. Der Name steht für "omni" und spiegelt wider, dass es mehr als eine Art von Eingabe akzeptiert. Es wurde vom Anbieter am 13. Mai 2024 veröffentlicht und gehört zur Kategorie Text, mit einem Wissensstand vom 31. Oktober 2023. Wenn Sie GPT-4 Turbo verwendet haben, ist GPT-4o so positioniert, dass es dieses Intelligenzniveau beibehält, sodass es eine vernünftige Standardwahl ist, wenn Sie ein allgemeines OpenAI-Modell statt eines spezialisierten möchten.

Bei der Eingabe akzeptiert das Modell Text, Bilder und Dateien, und es erzeugt ausschließlich Text. Diese Kombination ist wichtig für Aufgaben, bei denen der Prompt nicht nur aus Fließtext besteht: Ein Screenshot, eine gescannte Seite oder ein angehängtes Dokument können zusammen mit Ihren Anweisungen gesendet werden, und das Modell antwortet in Textform. Das Kontextfenster beträgt 128.000 Token, was für lange Dokumente, mehrteilige Gespräche oder große Codedateien in einer einzigen Anfrage ausreicht. Die Ausgabe ist auf 16.384 Token pro Antwort begrenzt, daher müssen sehr lange Generierungen um diese Obergrenze herum geplant werden, zum Beispiel indem Abschnitte nacheinander angefordert werden.

Die praktischen Einsatzmöglichkeiten ergeben sich aus diesen Fähigkeiten. Dokumentenfragen und Zusammenfassungen funktionieren gut, wenn Sie eine Datei anhängen oder ein langes Transkript einfügen und nach bestimmten Antworten fragen. Bildverständnis unterstützt Aufgaben wie das Lesen von Diagrammen, das Beschreiben von Screenshots, das Extrahieren von Text aus Fotos oder das Prüfen eines UI-Entwurfs gegen eine Spezifikation. Da das Modell Tools und strukturierte Ausgaben unterstützt, eignet es sich auch für agentenartige Workflows und Datenextraktionspipelines, bei denen die Antwort einem Schema entsprechen muss. Allgemeiner Chat, Entwerfen, Umschreiben und Code-Unterstützung liegen alle im Rahmen, und der lange Kontext macht es nutzbar für Fragen auf Repository-Ebene statt nur für einzelne Schnipsel.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID openai/gpt-4o auf, sodass bestehende OpenAI-SDKs und Clients funktionieren, wenn nur Basis-URL und Schlüssel geändert werden. Die unterstützten Anfrageparameter sind frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p und web_search_options. In der Praxis deckt das Sampling-Steuerungen ab, annähernd deterministisches Verhalten über seed, JSON- und schemaeingeschränkte Ausgabe über response_format und structured_outputs, Funktionsaufrufe über tools und tool_choice, Token-Grenzen und optionale Websuche.

Zwei Grenzen sollten Sie bei Ihrer Wahl beachten. Die Ausgabe endet bei 16.384 Token, wenn Sie also eine einzelne sehr lange Generierung benötigen, müssen Sie die Arbeit möglicherweise aufteilen oder ein Modell mit einer größeren Ausgabegrenze wählen. Der Wissensstand vom 31. Oktober 2023 bedeutet, dass das Modell spätere Ereignisse nicht von sich aus kennt, und hier werden der Parameter web_search_options oder Ihr eigener abgerufener Kontext nützlich. Wenn Ihre Aufgabe rein textbasiert ist und nicht von Bild- oder Dateieingabe profitiert, kann ein kleineres rein textbasiertes Modell für dieselbe Aufgabe günstiger und schneller sein.