Meta: Llama 4 Scout

Meta: Llama 4 Scout to model językowy opracowany przez Meta. To model typu mixture-of-experts, który aktywuje 17 miliardów parametrów z łącznej liczby 109 miliardów, i jest publikowany pod nazwą Llama 4 Scout 17B Instruct (16E). Znajduje się w kategorii tekstowej na api14, a jego data odcięcia wiedzy to 2024-08-31.

Model przyjmuje tekst i obrazy jako dane wejściowe i zwraca tekst. Jego okno kontekstowe wynosi 1 310 720 tokenów, co jest wystarczająco duże, aby pomieścić bardzo długie dokumenty, bazy kodu lub historie wielu tur w jednym żądaniu, a maksymalna długość wyjścia to 16 384 tokeny. Natywne wejście multimodalne oznacza, że można wysyłać obrazy razem z podpowiedziami tekstowymi, więc zadania łączące zrzut ekranu, diagram lub zdjęcie z pisemnymi instrukcjami są obsługiwane bezpośrednio, a nie przez osobny potok.

Te możliwości wskazują na kilka praktycznych zastosowań. Praca z długim kontekstem, taka jak streszczanie lub odpytywanie długich raportów, umów lub transkrypcji, dobrze pasuje do dużego okna. Ponieważ obrazy są akceptowane jako dane wejściowe, rozumienie dokumentów, analiza wykresów i zrzutów ekranu oraz odpowiadanie na pytania wizualne są uzasadnionymi zastosowaniami. Wywoływanie narzędzi i ustrukturyzowane wyjścia czynią go odpowiednim dla agentów i potoków, które wymagają, aby model zwracał dane w ustalonym kształcie lub wywoływał zewnętrzne funkcje, a konstrukcja mixture-of-experts utrzymuje liczbę aktywnych parametrów na poziomie 17 miliardów, co ma znaczenie, jeśli zależy ci na wydajności obsługi rather niż na surowej skali.

Wywołujesz go przez kompatybilne z OpenAI API api14, używając identyfikatora modelu "meta-llama/llama-4-scout". Obsługiwane parametry żądania to frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k i top_p. Ten zestaw obejmuje kontrolę próbkowania, deterministyczne uruchomienia przez seed, sekwencje stop, odpowiedzi JSON lub ograniczone schematem przez response_format i structured_outputs oraz wywoływanie funkcji przez tools i tool_choice.

Dwie granice warto zauważyć przed podjęciem decyzji. Wyjście jest ograniczone do 16 384 tokenów na odpowiedź, więc praca wymagająca bardzo długiego pojedynczego uzupełnienia musi być podzielona na wiele wywołań. Data odcięcia wiedzy to 2024-08-31, więc pytania o zdarzenia po tej dacie zależą od tego, co dostarczysz w podpowiedzi lub przez narzędzia. Jeśli twoje zadanie jest czysto tekstowe i nie potrzebuje dużego okna kontekstowego ani wejścia obrazowego, mniejszy model może być prostszym wyborem.