OpenAI: GPT-4o (2024-05-13)

GPT-4o (2024-05-13) é um modelo de texto da OpenAI. O "o" significa "omni", e este lançamento é datado de 13 de maio de 2024. Foi construído para aceitar entradas de texto e imagem enquanto devolve saídas de texto, e a OpenAI descreve-o como mantendo o nível de inteligência do GPT-4 Turbo sendo mais rápido. Se está a escolher um modelo OpenAI de uso geral para uma nova integração, esta é a versão identificada pelo id de modelo openai/gpt-4o-2024-05-13.

Nas entradas, o modelo aceita texto, imagens e ficheiros, e produz apenas texto. A janela de contexto é de 128.000 tokens, pelo que documentos longos, ficheiros de código grandes ou conversas extensas podem ser fornecidos num único pedido. A saída máxima é de 4.096 tokens, o que é importante quando planeia gerações longas, uma vez que a resposta será truncada nesse ponto independentemente do espaço que reste no contexto. O seu limite de conhecimento é 31 de outubro de 2023, pelo que qualquer coisa posterior a essa data tem de vir do prompt, de ferramentas ou de uma pesquisa web em vez do próprio treino do modelo.

Essas capacidades apontam para alguns usos práticos. Como lê imagens e texto, adequa-se a tarefas como extrair dados estruturados de capturas de ecrã, páginas digitalizadas ou diagramas, descrever conteúdo visual, ou responder a perguntas sobre um gráfico juntamente com um briefing escrito. A grande janela de contexto torna-o viável para resposta a perguntas sobre documentos, resumir relatórios longos e rever bases de código consideráveis numa só passagem. O suporte para ferramentas e saídas estruturadas torna-o uma escolha razoável para fluxos de trabalho ao estilo de agentes e para pipelines onde o modelo tem de devolver JSON que outro serviço analisa.

Através da api14 chama-o com o id de modelo openai/gpt-4o-2024-05-13 usando a API compatível com OpenAI, pelo que os SDKs e clientes OpenAI existentes funcionam com uma alteração de URL base e chave. Os parâmetros de pedido suportados são frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p e web_search_options. Tools e tool_choice cobrem a chamada de funções, response_format e structured_outputs cobrem formas de saída restringidas, e seed suporta amostragem mais reprodutível.

Vale a pena planear em torno de dois limites. O teto de saída de 4.096 tokens é modesto para escrita de forma longa, pelo que tarefas que precisam de respostas únicas muito extensas podem adequar-se melhor a outro modelo, e o limite de conhecimento de outubro de 2023 significa que perguntas sensíveis ao tempo devem ser tratadas com ferramentas ou pesquisa web em vez de depender da memória do modelo.