OpenAI: GPT-4o-mini (2024-07-18)

GPT-4o-mini (2024-07-18) est un modèle de génération de texte d'OpenAI, publié le 18 juillet 2024. Il appartient à la gamme de petits modèles d'OpenAI, positionné par le fournisseur comme son petit modèle le plus avancé et le successeur de GPT-4 Omni dans ce niveau. L'identifiant de modèle versionné fixe l'instantané au 2024-07-18, de sorte que le comportement reste cohérent d'un appel à l'autre plutôt que de changer avec un alias flottant.

Le modèle accepte du texte, des images et des fichiers en entrée et ne renvoie que du texte. Il dispose d'une fenêtre de contexte de 128 000 tokens et peut produire jusqu'à 16 384 tokens en sortie dans une seule réponse. Sa date limite de connaissances est le 31 octobre 2023, donc tout ce qui est postérieur à cette date doit provenir du prompt, des fichiers que vous fournissez ou d'un outil de recherche. Comme l'entrée d'images est prise en charge, vous pouvez transmettre des captures d'écran, des pages scannées ou des diagrammes accompagnés d'instructions textuelles et obtenir une réponse textuelle en retour.

Ces capacités conviennent à une série de tâches de développement courantes. L'entrée de documents et de fichiers est bien adaptée à la synthèse, à l'extraction et aux questions-réponses sur des contrats, des rapports ou des PDF, tandis que l'entrée d'images couvre la lecture de graphiques, de reçus, de captures d'écran d'interfaces et de texte photographié. Le contexte de 128k vous permet d'envoyer de longues transcriptions, des bases de code ou des ensembles multi-documents sans les découper au préalable. L'appel d'outils et les sorties structurées en font un choix raisonnable pour les agents, le routage de fonctions et les pipelines qui ont besoin de JSON conformes à un schéma, et les paramètres seed, temperature et de pénalité vous donnent le contrôle sur le caractère déterministe ou varié de la sortie.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "openai/gpt-4o-mini-2024-07-18". Comme l'interface suit la forme des complétions de chat d'OpenAI, les SDK et clients OpenAI existants fonctionnent avec un simple changement d'URL de base. Les paramètres de requête pris en charge sont frequency_penalty, logit_bias, logprobs, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p et web_search_options. Cela couvre les contrôles d'échantillonnage, les limites de tokens, les séquences d'arrêt, l'inspection des probabilités logarithmiques, la sortie JSON et contrainte par schéma, les définitions d'outils et la sélection forcée d'outils, ainsi que les options de recherche web.

Deux contraintes méritent d'être notées avant de vous engager. La sortie est uniquement textuelle, donc si vous avez besoin d'images, d'audio ou d'embeddings générés, ce modèle ne convient pas. La date limite de connaissances du 31 octobre 2023 signifie que les questions sensibles au temps nécessitent une récupération, une entrée de fichier ou des options de recherche web plutôt que de s'appuyer sur les connaissances propres du modèle. Et le plafond de sortie de 16 384 tokens limite la longueur d'une réponse unique, ce qui compte pour les tâches de génération de texte long.