Xiaomi: MiMo-V2.6-Flash

MiMo-V2.6-Flash to otwartoźródłowy model bazowy od Xiaomi, wymieniony w api14 pod identyfikatorem modelu xiaomi/mimo-v2.6-flash. Należy do kategorii tekstowej i jest zbudowany na architekturze Mixture-of-Experts z 309B parametrów całkowitych i 15B aktywowanych na token, wykorzystującej hybrydowy mechanizm uwagi. Xiaomi pozycjonuje go jako model bazowy, a nie wąski system dedykowany konkretnym zadaniom, więc ma służyć jako ogólna podstawa dla szerokiego zakresu prac językowych.

Model przyjmuje jako dane wejściowe tekst, obraz, wideo i dźwięk, a jako dane wyjściowe generuje tekst. Jego okno kontekstowe wynosi 1 050 000 tokenów, a maksymalna długość danych wyjściowych to 131 072 tokeny. To połączenie bardzo dużego kontekstu i multimodalnych danych wejściowych oznacza, że pojedyncze żądanie może zawierać długie dokumenty wraz z obrazami, wideo lub dźwiękiem, a mimo to zwrócić obszerną odpowiedź tekstową. Obsługiwane parametry żądania obejmują temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning oraz include_reasoning.

Te możliwości wskazują na kilka praktycznych wzorców użycia. Prace z długim kontekstem, takie jak streszczanie lub odpytywanie dużych zbiorów dokumentów, baz kodu czy transkrypcji, pasują do niego naturalnie, ponieważ okno jest wystarczająco duże, aby pomieścić materiał, który w innym przypadku wymagałby dzielenia na fragmenty. Ponieważ obrazy, wideo i dźwięk mogą być dostarczane jako dane wejściowe, model można wykorzystać do zadań takich jak opisywanie multimediów, wyodrębnianie informacji ze zrzutów ekranu lub zeskanowanych stron albo odpowiadanie na pytania dotyczące nagranego materiału, przy czym odpowiedź jest zwracana jako tekst. Wywoływanie narzędzi i ustrukturyzowane dane wyjściowe czynią go odpowiednim do potoków, w których model musi wywoływać funkcje lub emitować JSON, który dalszy kod może przetworzyć, a parametry reasoning i include_reasoning dają sposób na żądanie lub sprawdzanie pośredniego rozumowania, gdy jest to przydatne.

Wywoływanie go przez api14 działa tak samo jak w przypadku każdego innego modelu zgodnego z OpenAI. Wyślij żądanie do punktu końcowego chat completions z polem model ustawionym na xiaomi/mimo-v2.6-flash i przekaż wiadomości w zwykłym formacie OpenAI, w tym multimodalne części treści dla danych wejściowych w postaci obrazu, wideo lub dźwięku. Parametry wymienione powyżej można ustawić w treści żądania; kontrolki próbkowania, takie jak temperature, top_p, top_k i min_p, kształtują generowanie, max_tokens ogranicza dane wyjściowe, a tools, tool_choice, response_format i structured_outputs obejmują wywoływanie funkcji i ustrukturyzowane odpowiedzi. Strumieniowanie i standardowe biblioteki klienckie OpenAI powinny działać zgodnie z oczekiwaniami względem zgodnego interfejsu.

Jedna rzecz, o której warto pamiętać: dane wyjściowe są wyłącznie tekstowe, więc model nie może w zamian generować obrazów, wideo ani dźwięku. Jeśli zadanie wymaga tworzenia multimediów, a nie opisywania ich lub rozumowania na ich temat, potrzebny byłby inny model. Duży kontekst i pułap danych wyjściowych wynosząca 131 072 tokeny oznaczają również, że żądania mogą być ciężkie, więc w przypadku krótkich, prostych promptów mniejszy model może być bardziej proporcjonalnym wyborem.