DeepSeek: DeepSeek V3

O DeepSeek V3 é um modelo de geração de texto da DeepSeek, listado na api14 sob o id de modelo deepseek/deepseek-chat. É o modelo mais recente da equipe DeepSeek, construído sobre as capacidades de seguir instruções e de programação de versões anteriores da família. O provedor o lançou em 2024-12-26, e ele foi pré-treinado em quase 15 trilhões de tokens. Seu corte de conhecimento é 2024-07-31, então qualquer coisa após essa data está fora do que o modelo aprendeu durante o treinamento.

O modelo trabalha apenas com texto, tanto na entrada quanto na saída, portanto não aceita imagens nem áudio. Oferece uma janela de contexto de 163.840 tokens, grande o suficiente para armazenar documentos longos, conversas prolongadas ou arquivos de código consideráveis em uma única requisição. A saída máxima é de 16.384 tokens por resposta. Como é um modelo de texto geral com forte capacidade de seguir instruções e de programação, ele se adequa a tarefas que envolvem ler e produzir linguagem ou código, em vez de trabalho multimodal.

Usos práticos decorrem diretamente dessas características. Contexto longo mais saída de texto favorece sumarização de documentos, perguntas e respostas sobre material de origem extenso, e chat com vários turnos em que turnos anteriores precisam permanecer visíveis. O histórico em programação faz dele uma escolha razoável para geração, explicação e refatoração de código, e para trabalhar com um bloco de código de tamanho de repositório em um único prompt. O seguimento de instruções dá suporte a extração, reescrita, classificação e outras tarefas de texto estruturado, e os parâmetros de chamada de ferramentas o tornam utilizável como a etapa de raciocínio em um ciclo de agente que precisa chamar funções externas.

Você o chama pela API compatível com OpenAI da api14 usando o id de modelo deepseek/deepseek-chat, então bibliotecas cliente OpenAI existentes funcionam apenas com a URL base e a chave alteradas. Os parâmetros de requisição que ele suporta são frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k e top_p. Na prática, isso cobre controle de amostragem (temperature, top_p, top_k, min_p), penalidades por repetição, execuções determinísticas via seed, moldagem de saída com response_format e structured_outputs, e chamada de funções por meio de tools e tool_choice.

Dois limites vale notar antes de se comprometer. Entrada e saída são apenas texto, então, se sua tarefa precisa de compreensão de imagem ou áudio, um modelo multimodal é a melhor opção. O corte de conhecimento de 2024-07-31 significa que o modelo não possui conhecimento integrado de eventos posteriores, então, para perguntas sensíveis ao tempo, você deve fornecer informações atuais no prompt ou combiná-lo com recuperação.