Morph: Morph V3 Large

Morph: Morph V3 Large è un modello testuale di Morph. È presentato come il modello apply ad alta precisione di Morph per modifiche complesse al codice, e il provider lo descrive come capace di raggiungere circa 4.500 token al secondo con il 98% di precisione per trasformazioni precise del codice. Questa impostazione ti dice per cosa è costruito il modello: prendere un'istruzione e un frammento di codice iniziale, quindi produrre il codice modificato come output.

Il modello è text in, text out. Accetta prompt testuali e restituisce completamenti testuali, con una finestra di contesto di 262.144 token e un output massimo di 131.072 token. Si tratta di uno spazio di lavoro ampio, il che conta quando il codice che stai trasformando non entra in una finestra piccola. Un vincolo importante arriva dal provider: il prompt deve seguire una struttura specifica, con un blocco di istruzione e un blocco di codice, scritti come un tag instruction contenente l'istruzione seguito da un tag code contenente il codice iniziale.

Poiché il modello è un modello apply e non un modello chat generico, i casi d'uso pratici derivano da questa forma. Si adatta a trasformazioni automatiche del codice, all'applicazione di una modifica descritta a un file esistente, al refactoring o alla riscrittura di sezioni di codice a partire da un'istruzione in linguaggio naturale, e a modifiche in batch in cui lo stesso tipo di cambiamento deve essere applicato in modo coerente su molti input. Le cifre dichiarate di precisione e throughput lo rendono un candidato per pipeline in cui le modifiche al codice vengono generate e applicate a livello programmatico anziché digitate a mano.

Puoi chiamarlo tramite l'API compatibile con OpenAI di api14 usando il model id "morph/morph-v3-large". I parametri di richiesta supportati sono logprobs, max_tokens, response_format, stop, structured_outputs, temperature e top_logprobs. Se stai portando codice esistente, questo significa che il solito corpo della richiesta in stile OpenAI funziona, con il campo model impostato su quell'id, e puoi controllare il campionamento con temperature e stop, limitare l'output con max_tokens e vincolare la forma della risposta con response_format o structured_outputs.

Tieni a mente il formato del prompt richiesto quando lo integri, poiché i blocchi di istruzione e codice fanno parte di come il modello è pensato per essere usato. Se il tuo compito è conversazione generica, scrittura aperta o qualsiasi cosa che non sia una modifica al codice, un modello testuale generico potrebbe essere più adatto di un modello apply con una struttura del prompt fissa.