Meta: Llama 4 Scout

Meta: Llama 4 Scout is een taalmodel dat is ontwikkeld door Meta. Het is een mixture-of-experts-model dat 17 miljard parameters activeert van een totaal van 109 miljard, en het wordt gepubliceerd onder de naam Llama 4 Scout 17B Instruct (16E). Het staat in de tekstcategorie op api14, en de knowledge cutoff is 2024-08-31.

Het model accepteert tekst en afbeeldingen als invoer en retourneert tekst. Het contextvenster is 1.310.720 tokens, wat groot genoeg is om zeer lange documenten, codebases of multi-turn-geschiedenissen in één verzoek te houden, en de maximale uitvoerlengte is 16.384 tokens. Native multimodale invoer betekent dat je afbeeldingen samen met tekstprompts kunt sturen, dus taken die een screenshot, diagram of foto combineren met geschreven instructies worden direct ondersteund in plaats van via een aparte pipeline.

Die mogelijkheden wijzen op een paar praktische toepassingen. Long-context-werk zoals het samenvatten van of queryen in lange rapporten, contracten of transcripten past goed bij het grote venster. Omdat afbeeldingen als invoer worden geaccepteerd, zijn documentbegrip, analyse van grafieken en screenshots, en visuele vraagbeantwoording redelijke toepassingen. Tool calling en gestructureerde uitvoer maken het geschikt voor agents en pipelines die willen dat het model gegevens in een vaste vorm retourneert of externe functies aanroept, en het mixture-of-experts-ontwerp houdt het aantal actieve parameters op 17 miljard, wat relevant is als je om serveerefficiëntie geeft in plaats van ruwe schaal.

Je roept het aan via de OpenAI-compatibele API van api14 met het model-id "meta-llama/llama-4-scout". De ondersteunde verzoekparameters zijn frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k en top_p. Die set dekt sampling-instellingen, deterministische runs via seed, stopsequenties, JSON- of schema-beperkte antwoorden via response_format en structured_outputs, en function calling via tools en tool_choice.

Twee limieten zijn het vermelden waard voordat je je vastlegt. De uitvoer is beperkt tot 16.384 tokens per antwoord, dus werk dat een zeer lange enkele completion nodig heeft, moet over meerdere aanroepen worden gesplitst. De knowledge cutoff is 2024-08-31, dus vragen over gebeurtenissen na die datum zijn afhankelijk van wat je in de prompt of via tools aanlevert. Als je taak puur tekstueel is en het grote contextvenster of afbeeldingsinvoer niet nodig heeft, kan een kleiner model een eenvoudigere keuze zijn.