OpenAI: GPT-4 Turbo

O GPT-4 Turbo é um modelo de geração de texto da OpenAI, listado no api14 sob o id de modelo openai/gpt-4-turbo. É a variante mais recente do GPT-4 Turbo e adiciona capacidades de visão à linha GPT-4 Turbo. A OpenAI descreve-o como suportando pedidos de visão a par do modo JSON e da chamada de funções, e os seus dados de treino vão até dezembro de 2023.

O modelo aceita texto e imagens como entrada e devolve texto. Tem uma janela de contexto de 128.000 tokens, o que permite lidar com documentos longos, conversas extensas e múltiplas imagens num único pedido. A saída máxima é de 4.096 tokens, pelo que as respostas são limitadas mesmo quando a entrada é grande. O seu corte de conhecimento é 2023-12-31, o que significa que não tem conhecimento de eventos após essa data, a menos que forneça a informação no prompt.

Como lê imagens e também texto, o modelo é adequado para tarefas como descrever ou extrair informação de capturas de ecrã, diagramas, gráficos e documentos digitalizados, responder a perguntas sobre uma imagem carregada, ou combinar contexto visual com uma instrução escrita. A grande janela de contexto torna-o uma escolha razoável para resumir relatórios longos, rever ficheiros de código ou contratos consideráveis, e manter conversas longas com múltiplos turnos. A chamada de ferramentas e as saídas estruturadas permitem construir fluxos de trabalho em que o modelo seleciona funções ou devolve dados numa forma definida, o que é útil para agentes, pipelines de extração e integrações que precisam de resultados legíveis por máquina.

Chama-o através da API compatível com OpenAI do api14 usando o id de modelo openai/gpt-4-turbo, pelo que os SDKs e clientes OpenAI existentes funcionam apenas com uma alteração de URL base e chave. Os parâmetros de pedido suportados são frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs e top_p. Isto cobre controlos de amostragem, comportamento quase determinístico via seed, limites de tokens, sequências de paragem, inspeção de probabilidades através de logprobs e top_logprobs, formatação de saída estruturada, e chamada de funções ou ferramentas com tool_choice.

Há duas restrições que vale a pena notar ao escolher este modelo. A saída está limitada a 4.096 tokens, pelo que tarefas que precisam de respostas únicas muito longas podem exigir divisão em partes ou um modelo com um limite de saída superior. O corte de conhecimento de 2023-12-31 significa que perguntas sobre eventos mais recentes dependem do contexto que fornecer. Se a sua carga de trabalho for apenas texto e não beneficiar da entrada de imagens, um modelo focado em texto pode ser uma escolha mais simples, mas para pedidos mistos de texto e imagem dentro de um contexto de 128.000 tokens, este modelo cobre os casos comuns.