OpenAI: GPT-4o (2024-08-06)

GPT-4o (2024-08-06) é um modelo de geração de texto da OpenAI, identificado na api14 como openai/gpt-4o-2024-08-06. É a versão do GPT-4o lançada em 2024-08-06, e a OpenAI posiciona-o como uma atualização que melhora as saídas estruturadas, incluindo a capacidade de fornecer um esquema JSON no campo response_format. O "o" no nome significa "omni", refletindo um modelo concebido para lidar com mais do que texto simples.

O modelo aceita texto, imagens e ficheiros como entrada, e produz texto como saída. Tem uma janela de contexto de 128.000 tokens e pode gerar até 16.384 tokens de saída por pedido. O seu limite de conhecimento é 2023-10-31, pelo que qualquer coisa posterior a essa data está fora do que aprendeu durante o treino. Como a entrada pode incluir imagens e ficheiros juntamente com texto, pode trabalhar com prompts mistos em vez de apenas texto.

Essas capacidades apontam para alguns usos práticos. As saídas estruturadas com um esquema JSON fornecido adequam-se a tarefas de extração e modelação de dados, em que se pretende que o modelo devolva campos que possam ser analisados diretamente. A chamada de ferramentas encaixa em fluxos de trabalho ao estilo de agentes que precisam de invocar funções ou serviços externos. A entrada de imagens e ficheiros suporta tarefas como ler uma captura de ecrã, um diagrama ou um documento e responder a perguntas sobre eles. A janela de contexto de 128.000 tokens permite que entradas longas, como documentos extensos ou conversas prolongadas, sejam tratadas num único pedido.

Pode chamar o modelo através da API compatível com a OpenAI da api14 utilizando o id de modelo openai/gpt-4o-2024-08-06. Os parâmetros de pedido suportados são frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p e web_search_options. Como a interface é compatível com a OpenAI, o código existente do SDK da OpenAI geralmente funciona com uma alteração do URL base e do id de modelo.

Vale a pena notar alguns limites ao escolher. A saída é apenas texto, pelo que, se precisar de imagens ou áudio gerados, este modelo não é o adequado. O limite de conhecimento de 2023-10-31 significa que eventos recentes não são abrangidos, a menos que forneça a informação no prompt ou utilize web_search_options. Se a sua carga de trabalho for pequena e simples, um modelo mais leve pode ser suficiente, enquanto este se destina a tarefas que beneficiam da sua janela de contexto, entrada multimodal e suporte de saída estruturada.