OpenAI: GPT-4o

GPT-4o est un modèle de génération de texte d'OpenAI, identifié sur api14 comme openai/gpt-4o. Le nom signifie "omni", ce qui reflète qu'il accepte plus d'un type d'entrée. Il a été publié par le fournisseur le 13 mai 2024 et se situe dans la catégorie texte, avec une date de coupure des connaissances au 31 octobre 2023. Si vous avez utilisé GPT-4 Turbo, GPT-4o est positionné comme maintenant ce niveau d'intelligence, c'est donc un choix par défaut raisonnable lorsque vous voulez un modèle OpenAI polyvalent plutôt qu'un modèle spécialisé.

En entrée, le modèle accepte du texte, des images et des fichiers, et il produit uniquement du texte. Cette combinaison compte pour les tâches où le prompt n'est pas seulement de la prose : une capture d'écran, une page scannée ou un document joint peuvent être envoyés avec vos instructions, et le modèle répond en texte. La fenêtre de contexte est de 128 000 tokens, ce qui suffit pour de longs documents, des conversations à plusieurs tours ou de gros fichiers de code dans une seule requête. La sortie est plafonnée à 16 384 tokens par réponse, donc les générations très longues doivent être planifiées en tenant compte de ce plafond, par exemple en demandant les sections les unes après les autres.

Les usages pratiques découlent de ces capacités. La question-réponse sur documents et le résumé fonctionnent bien lorsque vous joignez un fichier ou collez une longue transcription et demandez des réponses précises. La compréhension d'images prend en charge des tâches comme lire des graphiques, décrire des captures d'écran, extraire du texte à partir de photos ou vérifier une maquette d'interface par rapport à une spécification. Comme le modèle prend en charge les outils et les sorties structurées, il convient aussi aux flux de travail de type agent et aux pipelines d'extraction de données où la réponse doit respecter un schéma. Le chat général, la rédaction, la réécriture et l'assistance au code entrent tous dans son périmètre, et le contexte long le rend utilisable pour des questions à l'échelle d'un dépôt plutôt que pour de simples extraits.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle openai/gpt-4o, donc les SDK et clients OpenAI existants fonctionnent en changeant seulement l'URL de base et la clé. Les paramètres de requête pris en charge sont frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p et web_search_options. En pratique, cela couvre les contrôles d'échantillonnage, un comportement quasi déterministe via seed, une sortie contrainte par JSON et schéma via response_format et structured_outputs, l'appel de fonctions via tools et tool_choice, les limites de tokens, et la recherche web optionnelle.

Deux limites méritent d'être gardées à l'esprit lorsque vous choisissez. La sortie s'arrête à 16 384 tokens, donc si vous avez besoin d'une seule génération très longue, vous devrez peut-être découper le travail ou choisir un modèle avec une allocation de sortie plus grande. La date de coupure des connaissances au 31 octobre 2023 signifie que le modèle ne connaît pas les événements postérieurs par lui-même, c'est là que le paramètre web_search_options ou votre propre contexte récupéré devient utile. Si votre tâche est purement textuelle et ne bénéficie pas d'une entrée image ou fichier, un modèle plus petit uniquement textuel peut être moins cher et plus rapide pour le même travail.