OpenAI: GPT-4.1 Nano (batch)

GPT-4.1 Nano (batch) est un modèle de texte d'OpenAI, faisant partie de la famille GPT-4.1. C'est le plus petit modèle de cette série, positionné par OpenAI pour les tâches qui exigent une faible latence. Sur api14, il est exposé sous l'identifiant de modèle openai/gpt-4.1-nano:batch, et la désignation batch indique la variante batch du modèle plutôt que le point de terminaison synchrone standard.

Le modèle accepte des entrées image, texte et fichier et ne renvoie que du texte. Sa fenêtre de contexte est de 1 047 576 tokens, ce qui est suffisamment grand pour contenir de très longs documents, plusieurs fichiers ou des historiques de conversation étendus dans une seule requête. La sortie maximale est de 32 768 tokens, les réponses peuvent donc être substantielles même si le modèle lui-même est petit. Sa date limite de connaissances est le 30 juin 2024, ce qui signifie qu'il n'a aucune connaissance intégrée des événements postérieurs à cette date.

Parce qu'il traite ensemble le texte, les images et les fichiers sur un contexte très long, le modèle convient à des travaux tels que le résumé ou l'extraction de données structurées à partir de longs rapports et contrats, la réponse à des questions sur un ensemble mixte de documents et de captures d'écran, la classification ou l'étiquetage de grands volumes de texte, et l'alimentation de workflows de chat ou d'agents où la vitesse de réponse importe plus qu'un raisonnement approfondi. La combinaison de l'entrée fichier et image avec une fenêtre d'un million de tokens le rend pratique pour des pipelines qui auraient autrement besoin de couches de découpage et de récupération.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle openai/gpt-4.1-nano:batch. Les paramètres de requête pris en charge sont max_tokens, response_format, seed, structured_outputs, temperature, tool_choice, tools et top_p. Cet ensemble couvre le contrôle de la longueur de sortie, l'échantillonnage déterministe via seed, les modes de sortie JSON et structurée, les contrôles d'échantillonnage, et l'appel de fonctions ou d'outils, le modèle peut donc être intégré dans du code existant du SDK OpenAI avec peu de changements au-delà de l'identifiant de modèle.

Les principaux points à peser sont la date limite de connaissances et la petite taille du modèle. Si votre tâche dépend d'informations postérieures au 30 juin 2024, ou nécessite le raisonnement le plus puissant qu'OpenAI propose, un modèle plus grand de la série GPT-4.1 conviendra peut-être mieux. Pour un travail à gros volume et sensible à la latence sur de longues entrées, ce modèle est le choix approprié.