Morph: Morph V3 Large

Morph: Morph V3 Large es un modelo de texto de Morph. Se presenta como el modelo de aplicación de alta precisión de Morph para ediciones complejas de código, y el proveedor lo describe como capaz de alcanzar aproximadamente 4.500 tokens por segundo con un 98% de precisión para transformaciones precisas de código. Ese encuadre te dice para qué está construido el modelo: tomar una instrucción y un fragmento inicial de código, y luego producir el código editado como salida.

El modelo es texto de entrada, texto de salida. Acepta prompts de texto y devuelve completaciones de texto, con una ventana de contexto de 262.144 tokens y una salida máxima de 131.072 tokens. Ese es un espacio de trabajo grande, lo cual importa cuando el código que estás transformando no cabe en una ventana pequeña. Una restricción importante proviene del proveedor: el prompt debe seguir una estructura específica, con un bloque de instrucción y un bloque de código, escrito como una etiqueta de instrucción que contiene la instrucción seguida de una etiqueta de código que contiene el código inicial.

Debido a que el modelo es un modelo de aplicación en lugar de un modelo de chat general, los casos de uso prácticos se derivan de esa forma. Encaja en transformaciones automatizadas de código, aplicando un cambio descrito a un archivo existente, refactorizando o reescribiendo secciones de código a partir de una instrucción en lenguaje natural, y ediciones por lotes donde el mismo tipo de cambio debe aplicarse de manera consistente en muchas entradas. Las cifras declaradas de precisión y rendimiento lo convierten en un candidato para pipelines donde las ediciones de código se generan y aplican programáticamente en lugar de escribirse a mano.

Puedes llamarlo a través de la API compatible con OpenAI de api14 usando el id de modelo "morph/morph-v3-large". Los parámetros de solicitud admitidos son logprobs, max_tokens, response_format, stop, structured_outputs, temperature y top_logprobs. Si estás portando código existente, eso significa que el cuerpo de solicitud habitual al estilo OpenAI funciona, con el campo model establecido en ese id, y puedes controlar el muestreo con temperature y stop, limitar la salida con max_tokens, y restringir la forma de la respuesta con response_format o structured_outputs.

Ten en cuenta el formato de prompt requerido cuando lo integres, ya que los bloques de instrucción y código son parte de cómo está pensado que se use el modelo. Si tu tarea es conversación general, escritura abierta, o cualquier cosa que no sea una edición de código, un modelo de texto de propósito general puede encajar mejor que un modelo de aplicación con una estructura de prompt fija.