OpenAI: o3 (batch)

OpenAI o3 (batch) est un modèle de texte d'OpenAI, proposé ici sous l'identifiant de modèle openai/o3:batch. Il appartient à la famille o3, qu'OpenAI décrit comme un modèle complet et puissant dans tous les domaines, établissant une nouvelle norme pour les tâches de mathématiques, de sciences, de codage et de raisonnement visuel, et performant également bien en rédaction technique et en suivi d'instructions. La variante batch est le même modèle sous-jacent exposé via un point de terminaison de type batch sur api14, ce qui la rend adaptée aux charges de travail où vous pouvez soumettre du travail et collecter les résultats plutôt que d'avoir besoin de chaque réponse en ligne.

Le modèle accepte des entrées image, texte et fichier et renvoie du texte. Sa fenêtre de contexte est de 200 000 tokens, et la sortie maximale est de 100 000 tokens, donc des entrées longues et des générations longues sont toutes deux possibles dans la même requête. La date limite de connaissances est le 2024-06-30, ce qui compte lorsque votre tâche dépend d'événements récents ou de documents fraîchement publiés. Comme il prend des images et des fichiers en plus du texte, il peut traiter des entrées mixtes telles qu'un document plus une question, ou une capture d'écran plus une instruction, sans modèle de prétraitement séparé.

Ces capacités indiquent un ensemble assez large d'usages pratiques. Les travaux à forte intensité de raisonnement tels que les mathématiques à plusieurs étapes, la résolution de problèmes scientifiques et la génération ou le débogage de code sont un choix naturel, tout comme le raisonnement visuel sur des diagrammes, des graphiques ou des captures d'écran. La rédaction technique et le suivi d'instructions le rendent utilisable pour la documentation structurée, la rédaction de spécifications et les tâches où vous avez besoin que le modèle respecte un format. Le contexte de 200 000 tokens aide pour les rapports longs, les grands fichiers sources ou les entrées multi-documents, et le plafond de sortie de 100 000 tokens prend en charge la génération de texte long en un seul appel.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle openai/o3:batch. Les paramètres de requête pris en charge sont include_reasoning, max_tokens, reasoning, response_format, seed, structured_outputs, tool_choice et tools. En pratique, cela signifie que vous pouvez contrôler le comportement de raisonnement et si le raisonnement est exposé, plafonner la longueur de sortie avec max_tokens, demander une sortie structurée ou de style JSON via response_format et structured_outputs, rendre les exécutions reproductibles avec seed, et définir l'appel de fonctions avec tools et tool_choice.

Une limite à noter est la date limite de connaissances du 2024-06-30, donc si votre application a besoin d'informations actuelles, vous devrez les fournir dans le prompt ou via des outils. Si votre tâche est purement textuelle et ne bénéficie pas du raisonnement, d'une entrée image ou fichier, un modèle de texte plus léger peut être plus adapté.