Anthropic: Claude Sonnet 5 (batch)

Claude Sonnet 5 (batch) é um modelo de texto da Anthropic, oferecido em api14 sob o id de modelo anthropic/claude-sonnet-5:batch. A Anthropic descreve o Sonnet 5 como seu modelo mais capaz da classe Sonnet, com desempenho de ponta em programação, agentes e trabalho profissional. A variante batch é o mesmo modelo servido através de um modo de processamento em lote em vez de um modo interativo, o que a torna adequada para cargas de trabalho em que você submete muitos pedidos e recolhe os resultados em vez de esperar por cada chamada numa sessão em tempo real.

O modelo aceita texto, imagens e ficheiros como entrada, e produz texto como saída. A sua janela de contexto é de 1.000.000 de tokens, e a saída máxima é de 128.000 tokens. O Sonnet 5 suporta pensamento adaptativo com níveis de esforço de raciocínio selecionáveis, incluindo low, medium, high e max. Essa combinação de um contexto muito grande e um orçamento de saída elevado significa que pode entregar-lhe documentos longos, entradas mistas de texto e imagem, ou coleções inteiras de ficheiros num único pedido e ainda obter uma resposta substancial de volta.

Essas capacidades apontam para alguns padrões práticos. Trabalho com contexto grande, como rever bases de código extensas, resumir ou extrair de relatórios longos, e responder a perguntas em muitos documentos, encaixa naturalmente, especialmente quando os documentos chegam como ficheiros ou imagens digitalizadas. Tarefas de programação e do estilo de agentes decorrem dos pontos fortes declarados do modelo, e o suporte de ferramentas e de saída estruturada torna-o utilizável como o passo de raciocínio numa pipeline que chama outros sistemas. Como o esforço de raciocínio é selecionável, pode reduzi-lo para extração simples e aumentá-lo para problemas que exigem mais deliberação, e o modo batch é adequado para tarefas que correm segundo um agendamento ou através de uma fila em vez de numa janela de chat.

Para o chamar através de api14, use a interface de chat completions compatível com OpenAI com o id de modelo anthropic/claude-sonnet-5:batch. O pedido suporta include_reasoning, max_tokens, reasoning, reasoning_effort, response_format, stop, structured_outputs, tool_choice, tools e verbosity. Na prática, isso significa que pode limitar o comprimento da saída com max_tokens, controlar quanto pensamento o modelo faz com reasoning_effort, pedir saída legível por máquina através de response_format ou structured_outputs, e definir funções chamáveis com tools e tool_choice. Os parâmetros include_reasoning e verbosity permitem-lhe decidir quanto do raciocínio interno do modelo e quanto detalhe quer que apareça na resposta.

Uma coisa a ponderar é o próprio modo batch. Foi concebido para submissão assíncrona e de grande volume, por isso, se precisar de uma resposta síncrona dentro de uma aplicação interativa, uma implementação não batch do mesmo modelo seria a escolha mais natural. O modelo produz apenas texto, por isso tarefas que exigem gerar imagens ou áudio ficam fora do seu âmbito. Dentro do trabalho de texto, no entanto, o contexto de 1.000.000 de tokens e o teto de saída de 128.000 tokens cobrem a maioria dos casos de documentos longos e gerações longas sem necessidade de dividir as entradas em partes.