Anthropic: Claude Fable 5 (batch)

Claude Fable 5 (batch) é um modelo de texto da Anthropic, listado em api14 sob o id de modelo anthropic/claude-fable-5:batch. A Anthropic descreve-o como um modelo da classe Mythos, concebido para trabalho de conhecimento autónomo e programação. O rótulo batch assinala esta variante como o endpoint batch do modelo, que é a forma que chama quando quer o mesmo modelo servido através de um fluxo de trabalho batch em vez de um interativo.

O modelo aceita entradas de texto, imagem e ficheiros e devolve texto. Tem uma janela de contexto de 1.000.000 de tokens e pode produzir até 128.000 tokens de saída numa única resposta. O raciocínio faz parte do design do modelo, e a API expõe controlos para ele, para que possa decidir quanto esforço de raciocínio interno o modelo despende antes de escrever a resposta. A saída é apenas texto, o que mantém o tratamento das respostas simples se o seu pipeline espera strings em vez de conteúdo misto.

Essas capacidades apontam para alguns usos práticos. Documentos longos, bases de código inteiras ou grandes coleções de ficheiros cabem dentro da janela de contexto, pelo que tarefas como resumir um repositório, responder a perguntas sobre um conjunto de contratos ou extrair registos estruturados de páginas digitalizadas e PDFs são enquadramentos razoáveis. A entrada de imagem ajuda quando o material de origem inclui capturas de ecrã, diagramas ou documentos fotografados que precisam de ser lidos a par do texto. Como o modelo se destina a trabalho de conhecimento autónomo e programação, adequa-se a tarefas ao estilo de agente, em que lê material, raciocina sobre ele e depois chama ferramentas para agir sobre o que encontrou.

Chama-o através da API compatível com OpenAI da api14, usando o id de modelo anthropic/claude-fable-5:batch, pelo que as bibliotecas de cliente OpenAI existentes funcionam apenas com a alteração do URL base e do nome do modelo. Os parâmetros de pedido que suporta são include_reasoning, max_tokens, reasoning, reasoning_effort, response_format, stop, structured_outputs, tool_choice, tools e verbosity. Na prática, tools e tool_choice impulsionam a chamada de funções, structured_outputs e response_format restringem a forma da resposta, max_tokens e stop limitam a geração, e os parâmetros relacionados com raciocínio permitem-lhe ajustar como o modelo pensa antes de responder.

Tenha em conta o teto de saída: 128.000 tokens é generoso mas finito, pelo que tarefas de geração muito grandes podem ter de ser divididas por várias chamadas. Se a sua tarefa for puramente interativa e não precisar de processamento batch, a forma não batch do mesmo modelo pode ser a melhor opção. A variante batch é a escolha natural quando tem muitos pedidos independentes e pode aceitar o fluxo de trabalho batch em troca de os executar em conjunto.