OpenAI: GPT-4

GPT-4 est un modèle de texte d'OpenAI, listé sur api14 sous l'identifiant de modèle openai/gpt-4. Il appartient à la catégorie texte et est décrit par le fournisseur comme le grand modèle de langage phare d'OpenAI, conçu pour résoudre des problèmes difficiles avec une plus grande précision que les modèles précédents grâce à des connaissances générales plus larges et un raisonnement avancé. La date de publication du fournisseur est le 2023-05-28, et la date limite de connaissances du modèle est le 2021-09-30.

Sur api14, le modèle accepte une entrée texte et renvoie une sortie texte. Il a une longueur de contexte de 8191 tokens et une sortie maximale de 4096 tokens. Les paramètres de requête pris en charge incluent temperature, top_p, frequency_penalty, presence_penalty, stop, seed, logit_bias, logprobs, top_logprobs, max_tokens, max_completion_tokens, response_format, structured_outputs, tools et tool_choice. Cette combinaison couvre les contrôles d'échantillonnage, un comportement quasi déterministe via seed, l'inspection au niveau des tokens via logprobs, et l'appel de fonctions via les paramètres tools.

Les usages pratiques découlent de ces capacités. Le raisonnement général et les réponses aux questions à forte composante de connaissances correspondent aux forces annoncées du modèle. Les invites plus longues sont exploitables dans le contexte de 8191 tokens, donc la synthèse de documents, la rédaction de plusieurs paragraphes, l'extraction et la réécriture sont des tâches raisonnables, tant que l'entrée plus la sortie demandée restent dans la fenêtre. Comme tools et tool_choice sont pris en charge, le modèle peut servir d'étape de raisonnement dans un agent ou un flux de travail qui appelle des fonctions externes. Les sorties structurées et response_format aident lorsque vous avez besoin de résultats lisibles par machine plutôt que de prose libre, et logprobs ou top_logprobs sont utiles lorsque vous voulez inspecter le niveau de confiance du modèle à chaque token, par exemple dans des pipelines de classification ou d'évaluation.

L'appeler via api14 fonctionne de la même manière que n'importe quel autre point de terminaison compatible OpenAI. Envoyez une requête de complétions de chat à la passerelle avec le champ model défini sur openai/gpt-4, et transmettez les paramètres choisis dans le corps de la requête. Comme l'API est compatible OpenAI, les bibliothèques clientes et le code OpenAI existants peuvent généralement être pointés vers api14 en changeant l'URL de base et la clé API, sans autre modification de la forme de la requête. Vous pouvez définir temperature et top_p pour l'échantillonnage, max_tokens ou max_completion_tokens pour plafonner la réponse, des séquences stop pour terminer la génération plus tôt, et seed lorsque vous voulez des sorties plus reproductibles. Pour l'utilisation d'outils, fournissez tools et éventuellement tool_choice ; pour des résultats structurés, utilisez response_format ou structured_outputs.

Quelques limites méritent d'être gardées à l'esprit. La fenêtre de contexte de 8191 tokens est modeste selon les standards actuels, donc des documents très longs ou de longues conversations à plusieurs tours peuvent nécessiter un découpage ou un élagage. La date limite de connaissances du 2021-09-30 signifie que le modèle n'a aucune conscience des événements postérieurs à cette date, donc tout élément sensible au temps doit être fourni dans l'invite ou récupéré via des outils. L'entrée est uniquement du texte, donc les images et l'audio sont hors de portée ici. Si votre tâche dépend d'un contexte beaucoup plus grand, de connaissances plus récentes ou d'une entrée non textuelle, un autre modèle sur api14 conviendra probablement mieux.