OpenAI: GPT-4o (2024-05-13)

GPT-4o (2024-05-13) est un modèle de texte d'OpenAI. Le « o » signifie « omni », et cette version est datée du 13 mai 2024. Il est conçu pour accepter à la fois des entrées texte et image tout en renvoyant des sorties texte, et OpenAI le décrit comme conservant le niveau d'intelligence de GPT-4 Turbo tout en étant plus rapide. Si vous choisissez un modèle OpenAI à usage général pour une nouvelle intégration, c'est la version identifiée par l'identifiant de modèle openai/gpt-4o-2024-05-13.

En entrée, le modèle accepte le texte, les images et les fichiers, et il produit uniquement du texte. La fenêtre de contexte est de 128 000 tokens, de sorte que de longs documents, de gros fichiers de code ou des conversations étendues peuvent être fournis en une seule requête. La sortie maximale est de 4 096 tokens, ce qui compte lorsque vous prévoyez de longues générations, car la réponse sera tronquée à ce point quel que soit l'espace restant dans le contexte. Sa date limite de connaissances est le 31 octobre 2023, donc tout ce qui suit cette date doit provenir du prompt, d'outils ou d'une recherche web plutôt que de l'entraînement du modèle lui-même.

Ces capacités indiquent quelques usages pratiques. Comme il lit les images aussi bien que le texte, il convient à des tâches telles que l'extraction de données structurées à partir de captures d'écran, de pages numérisées ou de diagrammes, la description de contenu visuel, ou la réponse à des questions sur un graphique accompagné d'un brief écrit. La grande fenêtre de contexte le rend exploitable pour la réponse à des questions sur des documents, le résumé de longs rapports et la revue de bases de code volumineuses en une seule passe. La prise en charge des outils et des sorties structurées en fait un choix raisonnable pour les workflows de type agent et pour les pipelines où le modèle doit renvoyer du JSON qu'un autre service analyse.

Via api14, vous l'appelez avec l'identifiant de modèle openai/gpt-4o-2024-05-13 en utilisant l'API compatible OpenAI, donc les SDK et clients OpenAI existants fonctionnent avec un changement d'URL de base et de clé. Les paramètres de requête pris en charge sont frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p et web_search_options. Tools et tool_choice couvrent l'appel de fonctions, response_format et structured_outputs couvrent les formes de sortie contraintes, et seed permet un échantillonnage plus reproductible.

Deux limites méritent d'être anticipées. Le plafond de sortie de 4 096 tokens est modeste pour la rédaction de textes longs, donc les tâches qui nécessitent des réponses uniques très longues peuvent mieux convenir à un autre modèle, et la date limite de connaissances d'octobre 2023 signifie que les questions sensibles au temps doivent être traitées avec des outils ou une recherche web plutôt qu'en se fiant à la mémoire du modèle.