Meta: Llama 4 Scout

Meta: Llama 4 Scout è un modello linguistico sviluppato da Meta. È un modello mixture-of-experts che attiva 17 miliardi di parametri su un totale di 109 miliardi, ed è pubblicato con il nome Llama 4 Scout 17B Instruct (16E). Si colloca nella categoria testo su api14, e il suo knowledge cutoff è 2024-08-31.

Il modello accetta testo e immagini come input e restituisce testo. La sua finestra di contesto è di 1.310.720 token, abbastanza ampia da contenere documenti molto lunghi, codebase o cronologie multi-turno in una singola richiesta, e la lunghezza massima di output è di 16.384 token. L'input multimodale nativo significa che puoi inviare immagini insieme a prompt testuali, quindi attività che combinano uno screenshot, un diagramma o una foto con istruzioni scritte sono supportate direttamente anziché tramite una pipeline separata.

Queste capacità indicano alcuni usi pratici. Il lavoro su contesti lunghi, come riassumere o interrogare report, contratti o trascrizioni molto lunghi, si adatta bene alla grande finestra. Poiché le immagini sono accettate come input, la comprensione dei documenti, l'analisi di grafici e screenshot e la risposta a domande visive sono applicazioni ragionevoli. Il tool calling e gli output strutturati lo rendono adatto ad agenti e pipeline che necessitano che il modello restituisca dati in una forma fissa o invochi funzioni esterne, e il design mixture-of-experts mantiene il numero di parametri attivi a 17 miliardi, il che è rilevante se ti interessa l'efficienza di serving piuttosto che la scala grezza.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando il model id "meta-llama/llama-4-scout". I parametri di richiesta supportati sono frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k e top_p. Questo insieme copre i controlli di campionamento, le esecuzioni deterministiche tramite seed, le sequenze di stop, le risposte JSON o vincolate a uno schema tramite response_format e structured_outputs, e il function calling tramite tools e tool_choice.

Due limiti meritano attenzione prima di impegnarti. L'output è limitato a 16.384 token per risposta, quindi il lavoro che richiede un singolo completamento molto lungo deve essere suddiviso in più chiamate. Il knowledge cutoff è 2024-08-31, quindi le domande su eventi successivi a tale data dipendono da ciò che fornisci nel prompt o tramite i tools. Se la tua attività è puramente testuale e non necessita della grande finestra di contesto o dell'input di immagini, un modello più piccolo può essere una scelta più semplice.