Microsoft: Phi 4

O Microsoft Phi 4 é um modelo de texto da Microsoft, lançado em 10 de janeiro de 2025 e identificado na api14 como microsoft/phi-4. Ele vem da Microsoft Research, o grupo por trás da família Phi, e o provedor o descreve como um modelo de 14 bilhões de parâmetros construído para ter um bom desempenho em tarefas de raciocínio complexo, operando de forma eficiente em situações com memória limitada ou onde respostas rápidas são necessárias. Ele está na categoria de texto, portanto é voltado para trabalho com linguagem, e não para imagens ou áudio.

O modelo aceita entrada de texto e retorna saída de texto. Ele tem uma janela de contexto de 16.384 tokens e uma saída máxima de 14.745 tokens, com um corte de conhecimento em 30 de junho de 2024. Seus parâmetros de requisição suportados são frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k e top_p. Essa combinação cobre os controles usuais de amostragem além de saídas estruturadas, o que importa se você precisa que a resposta obedeça a um esquema em vez de chegar como texto livre.

Essas capacidades apontam para alguns usos práticos. Prompts com muito raciocínio, como análise em várias etapas, problemas de estilo matemático e questões de lógica, são o foco declarado, então ele serve para tarefas em que o modelo precisa percorrer etapas intermediárias antes de responder. Como foi projetado para rodar de forma eficiente com memória limitada e responder rapidamente, ele também se encaixa em implantações sensíveis à latência ou com recursos restritos, incluindo configurações locais ou auto-hospedadas onde um modelo menor é preferível a um muito grande. Saídas estruturadas e response_format o tornam utilizável para extração e classificação, quando você quer JSON ou outro formato definido de volta. O contexto de 16.384 tokens suporta entradas moderadamente longas, como documentos, transcrições ou arquivos de código, embora não seja um modelo de contexto longo.

Você o chama através da API compatível com OpenAI da api14 usando o id de modelo microsoft/phi-4. Aponte seu cliente OpenAI existente para a URL base da api14, mantenha o estilo de requisição de chat completions e defina o campo model para esse id. Você pode passar qualquer um dos parâmetros listados acima no corpo da requisição, então temperature, top_p, top_k, min_p, repetition_penalty, frequency_penalty, presence_penalty, logit_bias, seed, stop, max_tokens, response_format e structured_outputs estão todos disponíveis para ajustar ou restringir a resposta.

A principal restrição a ter em mente é a janela de contexto. Com 16.384 tokens, e até 14.745 tokens de saída, ele é uma boa opção para prompts focados e documentos moderados, mas se sua entrada for uma base de código grande, um livro longo ou um histórico de conversa extenso, um modelo com contexto maior vai lhe servir melhor. O corte de conhecimento em 30 de junho de 2024 também significa que o modelo não tem conhecimento de eventos após essa data, então qualquer coisa sensível ao tempo precisa ser fornecida no prompt.