OpenAI: o1

OpenAI o1 é um modelo focado em texto da OpenAI, lançado em 17 de dezembro de 2024. Pertence à família o1, que a OpenAI descreve como sua família de modelos mais recente e mais forte. A ideia central por trás da série é que o modelo passa mais tempo pensando antes de responder, e foi treinado com aprendizado por reforço em larga escala para raciocinar. Se você já usou modelos de chat anteriores da OpenAI, a diferença prática é que o o1 foi construído para trabalhar um problema internamente em vez de responder imediatamente.

No lado da entrada, o o1 aceita texto, imagens e arquivos, e retorna texto. A janela de contexto é de 200.000 tokens, com saída máxima de 100.000 tokens, então documentos longos e prompts grandes cabem confortavelmente junto com uma resposta gerada substancial. Seu corte de conhecimento é 31 de outubro de 2023, o que importa quando sua tarefa depende de eventos ou versões de bibliotecas posteriores a essa data. Os parâmetros de requisição suportados incluem max_tokens, seed, response_format, structured_outputs, tools, tool_choice, reasoning e include_reasoning. Os parâmetros reasoning e include_reasoning são específicos desta família e permitem controlar ou expor o raciocínio interno do modelo em vez de tratá-lo como uma caixa preta.

Essas capacidades apontam para um conjunto bastante específico de casos de uso. O contexto grande e a entrada de arquivos favorecem a análise de documentos longos, contratos, artigos de pesquisa ou bases de código em que a resposta depende de detalhes espalhados por muitas páginas. A entrada de imagens estende isso a diagramas, capturas de tela e material digitalizado que precisam ser interpretados junto com o texto. Como o modelo é treinado para raciocinar, ele se encaixa em problemas de múltiplas etapas: depuração, trabalho matemático, planejamento e tarefas em que um primeiro palpite errado é caro. O suporte a ferramentas e saída estruturada o torna utilizável dentro de pipelines em que o modelo precisa chamar funções ou retornar JSON que o código downstream consiga analisar.

Você chama o o1 através da API compatível com OpenAI da api14 usando o id de modelo "openai/o1". Como a interface segue o formato de chat completions da OpenAI, clientes existentes do SDK da OpenAI geralmente funcionam depois que você aponta a URL base para a api14 e troca para esse id de modelo. Os parâmetros de requisição listados acima são os que você deve usar: max_tokens, seed, response_format, structured_outputs, tools, tool_choice, reasoning e include_reasoning. Se você precisa de amostragem determinística para testes, seed está disponível; se você precisa de saída legível por máquina, structured_outputs e response_format cobrem isso.

Um limite que vale notar é o corte de conhecimento de 31 de outubro de 2023, então qualquer coisa que exija informações atuais precisa vir do seu prompt, dos arquivos enviados ou de uma chamada de ferramenta, e não do conhecimento do próprio modelo. A saída é apenas texto, então geração de imagens está fora do escopo. Se sua carga de trabalho é um chat simples, sensível à latência, que não se beneficia de raciocínio estendido, um modelo mais leve pode ser mais adequado.