Morph: Morph V3 Large

Morph: Morph V3 Large é um modelo de texto da Morph. É apresentado como o modelo de aplicação de alta precisão da Morph para edições de código complexas, e o fornecedor descreve-o como atingindo cerca de 4.500 tokens por segundo com 98% de precisão para transformações de código precisas. Esse enquadramento diz-lhe para que foi construído o modelo: receber uma instrução e um trecho de código inicial, e depois produzir o código editado como saída.

O modelo é texto a entrar, texto a sair. Aceita prompts de texto e devolve completações de texto, com uma janela de contexto de 262.144 tokens e uma saída máxima de 131.072 tokens. Esse é um espaço de trabalho amplo, o que importa quando o código que está a transformar não cabe numa janela pequena. Uma restrição importante vem do fornecedor: o prompt tem de seguir uma estrutura específica, com um bloco de instrução e um bloco de código, escritos como uma etiqueta de instrução que contém a instrução seguida de uma etiqueta de código que contém o código inicial.

Como o modelo é um modelo de aplicação e não um modelo de conversa geral, os casos de uso práticos decorrem dessa forma. Encaixa-se em transformações de código automatizadas, aplicando uma alteração descrita a um ficheiro existente, refatorando ou reescrevendo secções de código a partir de uma instrução em linguagem natural, e edições em lote em que o mesmo tipo de alteração tem de ser aplicado de forma consistente em muitas entradas. Os números declarados de precisão e débito tornam-no um candidato para pipelines em que as edições de código são geradas e aplicadas programaticamente em vez de escritas à mão.

Pode chamá-lo através da API compatível com OpenAI da api14 usando o id de modelo "morph/morph-v3-large". Os parâmetros de pedido suportados são logprobs, max_tokens, response_format, stop, structured_outputs, temperature e top_logprobs. Se estiver a portar código existente, isso significa que o habitual corpo de pedido ao estilo OpenAI funciona, com o campo model definido para esse id, e pode controlar a amostragem com temperature e stop, limitar a saída com max_tokens, e restringir a forma da resposta com response_format ou structured_outputs.

Tenha em conta o formato de prompt obrigatório quando o integrar, uma vez que os blocos de instrução e de código fazem parte da forma como o modelo deve ser usado. Se a sua tarefa for conversa geral, escrita aberta, ou qualquer coisa que não seja uma edição de código, um modelo de texto de uso geral pode ser mais adequado do que um modelo de aplicação com uma estrutura de prompt fixa.