Microsoft: Phi 4

Microsoft Phi 4 è un modello testuale di Microsoft, rilasciato il 10 gennaio 2025 e identificato su api14 come microsoft/phi-4. Proviene da Microsoft Research, il gruppo dietro la famiglia Phi, e il provider lo descrive come un modello da 14 miliardi di parametri costruito per ottenere buone prestazioni su compiti di ragionamento complesso, operando al contempo in modo efficiente in situazioni con memoria limitata o in cui sono necessarie risposte rapide. Rientra nella categoria testo, quindi è orientato al lavoro sul linguaggio e non a immagini o audio.

Il modello accetta input testuale e restituisce output testuale. Ha una finestra di contesto di 16.384 token e un output massimo di 14.745 token, con un knowledge cutoff al 30 giugno 2024. I parametri di richiesta supportati sono frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k e top_p. Questa combinazione copre i consueti controlli di campionamento più gli structured outputs, il che conta se hai bisogno che la risposta sia conforme a uno schema invece di arrivare come testo libero.

Queste capacità indicano alcuni usi pratici. I prompt ad alto contenuto di ragionamento, come analisi a più passaggi, problemi di tipo matematico e domande di logica, sono il focus dichiarato, quindi è adatto a compiti in cui il modello deve elaborare passaggi intermedi prima di rispondere. Poiché è progettato per funzionare in modo efficiente con memoria limitata e per rispondere rapidamente, si adatta anche a deployment sensibili alla latenza o con risorse limitate, inclusi ambienti locali o self-hosted in cui un modello più piccolo è preferibile a uno molto grande. Gli structured outputs e response_format lo rendono utilizzabile per estrazione e classificazione, dove vuoi indietro JSON o un'altra forma definita. Il contesto di 16.384 token supporta input moderatamente lunghi come documenti, trascrizioni o file di codice, anche se non è un modello a contesto lungo.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando l'id del modello microsoft/phi-4. Punta il tuo client OpenAI esistente all'URL di base di api14, mantieni lo stile di richiesta chat completions e imposta il campo model su quell'id. Puoi passare qualsiasi parametro elencato sopra nel corpo della richiesta, quindi temperature, top_p, top_k, min_p, repetition_penalty, frequency_penalty, presence_penalty, logit_bias, seed, stop, max_tokens, response_format e structured_outputs sono tutti disponibili per regolare o vincolare la risposta.

Il vincolo principale da tenere a mente è la finestra di contesto. Con 16.384 token, e fino a 14.745 token di output, è adatto a prompt mirati e documenti moderati, ma se il tuo input è una grande base di codice, un libro lungo o una lunga cronologia di conversazione, un modello con un contesto più ampio ti servirà meglio. Il knowledge cutoff al 30 giugno 2024 significa anche che il modello non ha consapevolezza di eventi successivi a quella data, quindi qualsiasi cosa sensibile al tempo deve essere fornita nel prompt.