OpenAI: GPT-4 Turbo

GPT-4 Turbo ist ein Textgenerierungsmodell von OpenAI, das auf api14 unter der Modell-ID openai/gpt-4-turbo gelistet ist. Es ist die neueste GPT-4 Turbo Variante und ergänzt die GPT-4 Turbo Reihe um Vision-Fähigkeiten. OpenAI beschreibt es als Unterstützung für Vision-Anfragen neben JSON-Modus und Funktionsaufrufen, und seine Trainingsdaten reichen bis Dezember 2023.

Das Modell akzeptiert Text und Bilder als Eingabe und gibt Text zurück. Es hat ein Kontextfenster von 128.000 Tokens, was es ermöglicht, lange Dokumente, ausgedehnte Gespräche und mehrere Bilder in einer einzigen Anfrage zu verarbeiten. Die maximale Ausgabe beträgt 4.096 Tokens, sodass Antworten auch bei großer Eingabe begrenzt bleiben. Sein Wissensstand endet am 2023-12-31, was bedeutet, dass es keine Kenntnis von Ereignissen nach diesem Datum hat, es sei denn, Sie liefern die Informationen im Prompt.

Da es sowohl Bilder als auch Text liest, eignet sich das Modell für Aufgaben wie das Beschreiben oder Extrahieren von Informationen aus Screenshots, Diagrammen, Charts und gescannten Dokumenten, das Beantworten von Fragen zu einem hochgeladenen Bild oder das Kombinieren von visuellem Kontext mit einer schriftlichen Anweisung. Das große Kontextfenster macht es zu einer sinnvollen Wahl für die Zusammenfassung langer Berichte, die Überprüfung umfangreicher Codedateien oder Verträge und die Führung langer mehrstufiger Gespräche. Tool-Aufrufe und strukturierte Ausgaben ermöglichen es Ihnen, Workflows zu erstellen, in denen das Modell Funktionen auswählt oder Daten in einer definierten Form zurückgibt, was nützlich ist für Agenten, Extraktionspipelines und Integrationen, die maschinenlesbare Ergebnisse benötigen.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID openai/gpt-4-turbo auf, sodass vorhandene OpenAI SDKs und Clients nur eine Änderung der Basis-URL und des Schlüssels benötigen. Die unterstützten Anfrageparameter sind frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs und top_p. Das deckt Sampling-Steuerung, deterministisches Verhalten via seed, Token-Limits, Stoppsequenzen, Wahrscheinlichkeitsprüfung durch logprobs und top_logprobs, strukturierte Ausgabeformatierung sowie Funktions- oder Tool-Aufrufe mit tool_choice ab.

Zwei Einschränkungen sind bei der Wahl dieses Modells zu beachten. Die Ausgabe ist auf 4.096 Tokens begrenzt, sodass Aufgaben, die sehr lange einzelne Antworten benötigen, möglicherweise eine Aufteilung oder ein Modell mit einem höheren Ausgabelimit erfordern. Der Wissensstand vom 2023-12-31 bedeutet, dass Fragen zu neueren Ereignissen von dem Kontext abhängen, den Sie bereitstellen. Wenn Ihre Arbeitslast nur Text umfasst und nicht von Bildeingaben profitiert, könnte ein textfokussiertes Modell einfacher passen, aber für gemischte Text- und Bildanfragen innerhalb eines Kontexts von 128.000 Tokens deckt dieses Modell die üblichen Fälle ab.