OpenAI: GPT-4o-mini

O GPT-4o-mini é um modelo de geração de texto da OpenAI, lançado em 18 de julho de 2024. Ele está na linha de modelos pequenos da OpenAI, posicionado como o sucessor do GPT-4o nesse nível, e foi criado para trabalho de texto de uso geral, em vez de uma única tarefa restrita. Se você está escolhendo um modelo padrão para uma aplicação, este é o tipo de modelo destinado a lidar com uma ampla variedade de solicitações cotidianas.

O modelo aceita texto, imagens e arquivos como entrada, e retorna apenas texto. Sua janela de contexto é de 128.000 tokens, e a saída máxima é de 16.384 tokens. O corte de conhecimento é 31 de outubro de 2023, então qualquer coisa após essa data está fora do que o modelo aprendeu durante o treinamento. Como entradas de imagem e arquivo são suportadas junto com texto, você pode enviar conteúdo misto em uma única solicitação e receber uma resposta em texto, o que mantém a integração simples se sua aplicação já funciona com prompts de texto.

Essas capacidades apontam para alguns usos práticos. Análise de documentos e arquivos é um encaixe natural, já que você pode passar um arquivo e pedir um resumo, extração ou perguntas e respostas sobre seu conteúdo. Compreensão de imagens cobre tarefas como descrever uma captura de tela, ler um gráfico ou extrair detalhes estruturados de uma foto. Chat geral, redação, classificação, reescrita e assistência de código funcionam apenas com texto. A grande janela de contexto significa que documentos longos ou conversas com múltiplos turnos podem ser tratados sem dividi-los em muitas solicitações pequenas, e o teto de saída de 16.384 tokens dá espaço para respostas geradas mais longas.

Você chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo "openai/gpt-4o-mini". Como a interface segue o formato OpenAI, SDKs e clientes OpenAI existentes funcionam com apenas uma mudança de URL base e chave. O modelo suporta um amplo conjunto de parâmetros de solicitação: frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p e web_search_options. Chamada de ferramentas e saídas estruturadas estão disponíveis, então você pode conectar o modelo a fluxos de chamada de função ou forçar respostas para um esquema. O parâmetro seed ajuda com reprodutibilidade, e web_search_options permite que uma solicitação use busca.

Dois limites vale a pena notar antes de você se comprometer. O corte de conhecimento de 31 de outubro de 2023 significa que o modelo não tem conhecimento integrado de eventos posteriores, então perguntas sensíveis ao tempo precisam de recuperação ou busca em vez de confiar apenas no modelo. A saída é apenas texto, então se você precisa de imagens ou áudio gerados, este modelo não é a escolha certa. Dentro desses limites, é um padrão razoável para cargas de trabalho de texto e compreensão de imagens.