OpenAI: GPT-4o-mini

GPT-4o-mini est un modèle de génération de texte d'OpenAI, publié le 18 juillet 2024. Il se situe dans la gamme des petits modèles d'OpenAI, positionné comme le successeur de GPT-4o dans ce niveau, et il est conçu pour un travail de texte à usage général plutôt que pour une seule tâche étroite. Si vous choisissez un modèle par défaut pour une application, c'est le genre de modèle destiné à traiter un large éventail de requêtes quotidiennes.

Le modèle accepte le texte, les images et les fichiers en entrée, et il renvoie uniquement du texte. Sa fenêtre de contexte est de 128 000 tokens, et la sortie maximale est de 16 384 tokens. La date limite de connaissances est le 31 octobre 2023, donc tout ce qui suit cette date est en dehors de ce que le modèle a appris pendant l'entraînement. Comme les entrées d'images et de fichiers sont prises en charge en plus du texte, vous pouvez envoyer du contenu mixte dans une seule requête et recevoir une réponse textuelle, ce qui simplifie l'intégration si votre application fonctionne déjà avec des invites textuelles.

Ces capacités indiquent quelques usages pratiques. L'analyse de documents et de fichiers est un choix naturel, puisque vous pouvez transmettre un fichier et demander un résumé, une extraction ou un système de questions-réponses sur son contenu. La compréhension d'images couvre des tâches comme décrire une capture d'écran, lire un graphique ou extraire des détails structurés d'une photo. Le chat général, la rédaction, la classification, la réécriture et l'assistance au code fonctionnent tous avec du texte seul. La grande fenêtre de contexte signifie que de longs documents ou des conversations à plusieurs tours peuvent être traités sans les diviser en de nombreuses petites requêtes, et le plafond de sortie de 16 384 tokens laisse de la place pour des réponses générées plus longues.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "openai/gpt-4o-mini". Comme l'interface suit le format OpenAI, les SDK et clients OpenAI existants fonctionnent avec seulement un changement d'URL de base et de clé. Le modèle prend en charge un large ensemble de paramètres de requête : frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p et web_search_options. L'appel d'outils et les sorties structurées sont disponibles, donc vous pouvez intégrer le modèle dans des flux d'appel de fonctions ou forcer les réponses dans un schéma. Le paramètre seed aide à la reproductibilité, et web_search_options permet à une requête de s'appuyer sur la recherche.

Deux limites méritent d'être notées avant de vous engager. La date limite de connaissances du 31 octobre 2023 signifie que le modèle n'a aucune conscience intégrée des événements postérieurs, donc les questions sensibles au temps nécessitent une récupération ou une recherche plutôt que de s'appuyer sur le modèle seul. La sortie est uniquement du texte, donc si vous avez besoin d'images ou d'audio générés, ce modèle n'est pas le bon choix. Dans ces limites, c'est un choix par défaut raisonnable pour les charges de travail de compréhension de texte et d'images.