OpenAI: GPT-3.5 Turbo

O GPT-3.5 Turbo é um modelo de texto da OpenAI, identificado na api14 como openai/gpt-3.5-turbo. A OpenAI descreve-o como o seu modelo mais rápido, e foi lançado pelo fornecedor em 2023-05-28. Situa-se na categoria de texto e foi concebido para compreender e gerar linguagem natural ou código, com otimização para chat e tarefas de conclusão tradicionais. Se está a escolher um modelo OpenAI de uso geral para trabalho de texto quotidiano, este é o padrão de longa data em torno do qual grande parte do ecossistema foi construído.

O modelo aceita texto como entrada e devolve texto como saída, pelo que não há processamento de imagens, áudio ou ficheiros a planear. A sua janela de contexto é de 16.385 tokens, e a saída máxima é de 4.096 tokens, o que significa que entradas longas são possíveis, mas a resposta em si fica bem abaixo do tamanho do contexto. O corte de conhecimento é 2021-09-30, pelo que qualquer coisa posterior a essa data tem de vir do prompt e não dos dados de treino do modelo. Os parâmetros de pedido suportados incluem temperature, top_p, max_tokens, stop, frequency_penalty, presence_penalty, logit_bias, logprobs, top_logprobs, seed, response_format, structured_outputs, tools e tool_choice.

Essas capacidades correspondem a um conjunto bastante amplo de tarefas práticas. Assistentes de chat, redação e reescrita, resumo de documentos que caibam dentro da janela de contexto, classificação e extração para uma forma fixa, e geração ou explicação de código são todos usos razoáveis, uma vez que o modelo lida tanto com linguagem natural como com código. Como tools e tool_choice são suportados, pode definir esquemas de funções e deixar o modelo decidir quando as chamar, o que se adequa a fluxos de trabalho ao estilo de agentes e pipelines de recuperação em que o modelo precisa de pedir dados. O parâmetro seed ajuda quando quer amostragem repetível, e response_format mais structured_outputs são úteis quando um parser a jusante espera uma estrutura previsível em vez de prosa livre.

Chamá-lo através da api14 funciona da mesma forma que qualquer outro endpoint compatível com a OpenAI. Envie o seu pedido para a rota de chat completions com o id de modelo openai/gpt-3.5-turbo, e use os parâmetros listados acima no corpo do pedido conforme necessário. Se já tem código escrito para o SDK da OpenAI ou um cliente compatível, apontar o URL base para a api14 e trocar o id de modelo é normalmente a única alteração necessária.

Vale a pena ter em conta duas restrições antes de avançar. O corte de conhecimento de 2021-09-30 significa que o modelo não saberá sobre eventos, bibliotecas ou APIs recentes, a menos que forneça esse contexto, e o limite de saída de 4.096 tokens limita quanto pode produzir numa única resposta. Para entradas muito grandes, gerações muito longas, ou tarefas que dependem de conhecimento recente, um modelo diferente na api14 pode servir-lhe melhor.