OpenAI: GPT-4.1 Nano (batch)

GPT-4.1 Nano (batch) é um modelo de texto da OpenAI, parte da família GPT-4.1. É o menor modelo dessa série, posicionado pela OpenAI para tarefas que exigem baixa latência. No api14 ele é exposto sob o id de modelo openai/gpt-4.1-nano:batch, e a designação batch indica a variante em lote do modelo, e não o endpoint síncrono padrão.

O modelo aceita entradas de imagem, texto e ficheiro e devolve apenas texto. A sua janela de contexto é de 1.047.576 tokens, o que é suficiente para conter documentos muito longos, vários ficheiros ou históricos de conversa extensos num único pedido. A saída máxima é de 32.768 tokens, pelo que as respostas podem ser substanciais mesmo sendo o modelo pequeno. O seu limite de conhecimento é 30 de junho de 2024, o que significa que não tem conhecimento incorporado de eventos posteriores a essa data.

Como lida com texto, imagens e ficheiros em conjunto ao longo de um contexto muito longo, o modelo é adequado para trabalhos como resumir ou extrair dados estruturados de relatórios e contratos longos, responder a perguntas sobre um conjunto misto de documentos e capturas de ecrã, classificar ou etiquetar grandes volumes de texto, e alimentar fluxos de chat ou de agentes em que a velocidade de resposta importa mais do que o raciocínio profundo. A combinação de entrada de ficheiros e imagens com uma janela de um milhão de tokens torna-o prático para pipelines que, de outra forma, precisariam de camadas de chunking e recuperação.

Pode chamá-lo através da API compatível com OpenAI do api14 usando o id de modelo openai/gpt-4.1-nano:batch. Os parâmetros de pedido suportados são max_tokens, response_format, seed, structured_outputs, temperature, tool_choice, tools e top_p. Esse conjunto cobre o controlo do comprimento da saída, amostragem determinística via seed, modos de saída JSON e estruturada, controlos de amostragem e chamada de funções ou ferramentas, pelo que o modelo pode ser integrado em código existente do SDK da OpenAI com poucas alterações além do id de modelo.

Os principais pontos a ponderar são o limite de conhecimento e o tamanho reduzido do modelo. Se a sua tarefa depende de informação posterior a 30 de junho de 2024, ou precisa do raciocínio mais forte que a OpenAI oferece, um modelo maior da série GPT-4.1 pode encaixar melhor. Para trabalho de grande volume e sensível à latência sobre entradas longas, este modelo é a escolha apropriada.