Anthropic: Claude Sonnet 5 (batch)

Claude Sonnet 5 (batch) est un modèle de texte d'Anthropic, proposé sur api14 sous l'identifiant de modèle anthropic/claude-sonnet-5:batch. Anthropic décrit Sonnet 5 comme son modèle de la classe Sonnet le plus capable, avec des performances de pointe en matière de codage, d'agents et de travail professionnel. La variante batch est le même modèle servi via un mode de traitement par lots plutôt qu'interactif, ce qui la rend adaptée aux charges de travail où vous soumettez de nombreuses requêtes et collectez les résultats plutôt que d'attendre chaque appel dans une session en direct.

Le modèle accepte du texte, des images et des fichiers en entrée, et produit du texte en sortie. Sa fenêtre de contexte est de 1 000 000 de tokens, et la sortie maximale est de 128 000 tokens. Sonnet 5 prend en charge la réflexion adaptative avec des niveaux d'effort de raisonnement sélectionnables, notamment low, medium, high et max. Cette combinaison d'un très grand contexte et d'un large budget de sortie signifie que vous pouvez lui confier de longs documents, des entrées mixtes texte et image, ou des collections entières de fichiers en une seule requête et obtenir malgré tout une réponse substantielle.

Ces capacités renvoient à quelques schémas pratiques. Le travail à grand contexte, comme la revue de bases de code volumineuses, le résumé ou l'extraction à partir de longs rapports, et la réponse à des questions sur de nombreux documents, s'y prête naturellement, en particulier lorsque les documents arrivent sous forme de fichiers ou d'images numérisées. Les tâches de codage et de type agent découlent des forces annoncées du modèle, et la prise en charge des outils et des sorties structurées le rend utilisable comme étape de raisonnement dans un pipeline qui appelle d'autres systèmes. Comme l'effort de raisonnement est sélectionnable, vous pouvez le réduire pour une extraction simple et l'augmenter pour des problèmes qui demandent davantage de délibération, et le mode batch convient aux tâches qui s'exécutent selon un calendrier ou via une file d'attente plutôt que dans une fenêtre de chat.

Pour l'appeler via api14, utilisez l'interface de complétions de chat compatible OpenAI avec l'identifiant de modèle anthropic/claude-sonnet-5:batch. La requête prend en charge include_reasoning, max_tokens, reasoning, reasoning_effort, response_format, stop, structured_outputs, tool_choice, tools et verbosity. En pratique, cela signifie que vous pouvez plafonner la longueur de sortie avec max_tokens, contrôler l'ampleur de la réflexion du modèle avec reasoning_effort, demander une sortie lisible par machine via response_format ou structured_outputs, et définir des fonctions appelables avec tools et tool_choice. Les paramètres include_reasoning et verbosity vous permettent de décider quelle part du raisonnement interne du modèle et quel niveau de détail vous souhaitez voir apparaître dans la réponse.

Un point à peser est le mode batch lui-même. Il est conçu pour une soumission asynchrone à grand volume, donc si vous avez besoin d'une réponse synchrone dans une application interactive, un déploiement non batch du même modèle serait le choix le plus naturel. Le modèle ne produit que du texte, donc les tâches qui nécessitent de générer des images ou de l'audio sortent de son périmètre. Dans le cadre du travail textuel, toutefois, le contexte de 1 000 000 de tokens et le plafond de sortie de 128 000 tokens couvrent la plupart des cas de longs documents et de longues générations sans avoir besoin de découper les entrées.