OpenAI: GPT-4 Turbo

GPT-4 Turbo est un modèle de génération de texte d'OpenAI, listé sur api14 sous l'identifiant de modèle openai/gpt-4-turbo. Il s'agit de la dernière variante de GPT-4 Turbo et il ajoute des capacités de vision à la gamme GPT-4 Turbo. OpenAI le décrit comme prenant en charge les requêtes de vision en plus du mode JSON et de l'appel de fonctions, et ses données d'entraînement vont jusqu'à décembre 2023.

Le modèle accepte du texte et des images en entrée et renvoie du texte. Il dispose d'une fenêtre de contexte de 128 000 tokens, ce qui permet de traiter de longs documents, des conversations étendues et plusieurs images dans une seule requête. La sortie maximale est de 4 096 tokens, de sorte que les réponses sont limitées même lorsque l'entrée est volumineuse. Sa date limite de connaissances est le 2023-12-31, ce qui signifie qu'il n'a aucune conscience des événements postérieurs à cette date, sauf si vous fournissez l'information dans le prompt.

Comme il lit les images autant que le texte, le modèle convient à des tâches telles que décrire ou extraire des informations à partir de captures d'écran, de diagrammes, de graphiques et de documents numérisés, répondre à des questions sur une image téléchargée, ou combiner un contexte visuel avec une instruction écrite. La grande fenêtre de contexte en fait un choix raisonnable pour résumer de longs rapports, examiner des fichiers de code ou des contrats volumineux, et maintenir de longues conversations à plusieurs tours. L'appel d'outils et les sorties structurées vous permettent de construire des flux de travail où le modèle sélectionne des fonctions ou renvoie des données dans une forme définie, ce qui est utile pour les agents, les pipelines d'extraction et les intégrations qui nécessitent des résultats lisibles par machine.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle openai/gpt-4-turbo, de sorte que les SDK et clients OpenAI existants fonctionnent avec seulement un changement d'URL de base et de clé. Les paramètres de requête pris en charge sont frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs et top_p. Cela couvre les contrôles d'échantillonnage, un comportement quasi déterministe via seed, les limites de tokens, les séquences d'arrêt, l'inspection des probabilités via logprobs et top_logprobs, le formatage des sorties structurées, et l'appel de fonctions ou d'outils avec tool_choice.

Deux contraintes méritent d'être notées lors du choix de ce modèle. La sortie est plafonnée à 4 096 tokens, donc les tâches qui nécessitent une seule réponse très longue peuvent exiger un découpage en segments ou un modèle avec une limite de sortie plus élevée. La date limite de connaissances du 2023-12-31 signifie que les questions sur des événements plus récents dépendent du contexte que vous fournissez. Si votre charge de travail est uniquement textuelle et ne bénéficie pas de l'entrée d'images, un modèle axé sur le texte peut être plus adapté, mais pour des requêtes mixtes texte et image dans un contexte de 128 000 tokens, ce modèle couvre les cas courants.