OpenAI: GPT-4

GPT-4 ist ein Textmodell von OpenAI, gelistet auf api14 unter der Modell-ID openai/gpt-4. Es befindet sich in der Kategorie Text und wird vom Anbieter als OpenAIs Flaggschiff-Modell für große Sprachmodelle beschrieben, entwickelt, um schwierige Probleme mit größerer Genauigkeit als frühere Modelle durch breiteres Allgemeinwissen und fortgeschrittenes Reasoning zu lösen. Das Veröffentlichungsdatum des Anbieters ist der 2023-05-28, und der Knowledge Cutoff des Modells ist der 2021-09-30.

Auf api14 akzeptiert das Modell Texteingabe und gibt Textausgabe zurück. Es hat eine Kontextlänge von 8191 Tokens und eine maximale Ausgabe von 4096 Tokens. Unterstützte Anfrageparameter umfassen temperature, top_p, frequency_penalty, presence_penalty, stop, seed, logit_bias, logprobs, top_logprobs, max_tokens, max_completion_tokens, response_format, structured_outputs, tools und tool_choice. Diese Kombination deckt Sampling-Steuerung, deterministisches Verhalten über seed, Token-Level-Inspektion durch logprobs und Function Calling über die tools-Parameter ab.

Die praktischen Einsatzmöglichkeiten ergeben sich aus diesen Fähigkeiten. Allgemeines Reasoning und wissensintensive Fragebeantwortung passen zu den angegebenen Stärken des Modells. Längere Prompts sind innerhalb des Kontexts von 8191 Tokens machbar, daher sind Dokumentzusammenfassung, mehrabsätzige Textverfassung, Extraktion und Umschreibungsaufgaben sinnvoll, solange die Eingabe plus die angeforderte Ausgabe innerhalb des Fensters bleiben. Da tools und tool_choice unterstützt werden, kann das Modell als Reasoning-Schritt in einem Agenten oder Workflow verwendet werden, der externe Funktionen aufruft. Strukturierte Ausgaben und response_format helfen, wenn Sie maschinenlesbare Ergebnisse statt freier Prosa benötigen, und logprobs oder top_logprobs sind nützlich, wenn Sie untersuchen möchten, wie sicher das Modell bei jedem Token war, zum Beispiel in Klassifikations- oder Evaluierungspipelines.

Der Aufruf über api14 funktioniert genauso wie bei jedem anderen OpenAI-kompatiblen Endpunkt. Senden Sie eine Chat-Completions-Anfrage an das Gateway mit dem Feld model auf openai/gpt-4 gesetzt und übergeben Sie Ihre gewählten Parameter im Request-Body. Da die API OpenAI-kompatibel ist, können bestehende OpenAI-Client-Bibliotheken und Code in der Regel auf api14 ausgerichtet werden, indem die Base-URL und der API-Schlüssel geändert werden, ohne dass die Anfrageform anderweitig angepasst werden muss. Sie können temperature und top_p für das Sampling festlegen, max_tokens oder max_completion_tokens, um die Antwort zu begrenzen, stop-Sequenzen, um die Generierung frühzeitig zu beenden, und seed, wenn Sie reproduzierbarere Ausgaben wünschen. Für Tool-Nutzung geben Sie tools und optional tool_choice an; für strukturierte Ergebnisse verwenden Sie response_format oder structured_outputs.

Einige Grenzen sollten Sie im Hinterkopf behalten. Das Kontextfenster von 8191 Tokens ist nach heutigen Maßstäben bescheiden, daher können sehr lange Dokumente oder lange mehrstufige Gespräche Chunking oder Kürzung erfordern. Der Knowledge Cutoff vom 2021-09-30 bedeutet, dass das Modell keine Kenntnis von Ereignissen nach diesem Datum hat, daher sollte alles Zeitkritische im Prompt bereitgestellt oder über Tools abgerufen werden. Die Eingabe ist nur Text, daher liegen Bilder und Audio hier außerhalb des Umfangs. Wenn Ihre Aufgabe von einem viel größeren Kontext, aktuellem Wissen oder nicht-textueller Eingabe abhängt, ist ein anderes Modell auf api14 wahrscheinlich besser geeignet.