Xiaomi: MiMo-V2.6-Pro-UltraSpeed

MiMo-V2.6-Pro-UltraSpeed to model generowania tekstu od Xiaomi, wymieniony na api14 jako xiaomi/mimo-v2.6-pro-ultraspeed. To szybka edycja flagowego modelu podstawowego Xiaomi, MiMo-V2.6-Pro, i jest zbudowany z tego samego punktu kontrolnego MiMo-V2.6-Pro o rozmiarze 1T. Według Xiaomi dorównuje jakością oryginalnemu modelowi, dostarczając jednocześnie około 10x większą szybkość. Należy do kategorii tekstowej i jest skierowany do deweloperów, którzy chcą uzyskać wyniki na poziomie flagowym bez opóźnień pełnego modelu.

Model przyjmuje tekst, obraz, wideo i audio jako dane wejściowe, a produkuje tekst jako dane wyjściowe. Czyni to go modelem multimodalnym po stronie wejścia: możesz wysłać prompt zawierający obraz, wideo lub klip audio razem z tekstem i otrzymać odpowiedź tekstową. Okno kontekstu wynosi 1,048,576 tokenów, co jest wystarczająco duże, aby pomieścić bardzo długie dokumenty, długie transkrypcje lub rozszerzone rozmowy wieloetapowe w jednym żądaniu. Maksymalne wyjście to 131,072 tokenów, więc odpowiedzi również mogą być długie. Obsługiwane parametry żądania obejmują temperature, top_p, frequency_penalty, presence_penalty, max_tokens, stop, response_format, structured_outputs, tools, tool_choice, reasoning i include_reasoning.

Te możliwości wskazują na kilka praktycznych zastosowań. Duże okno kontekstu pasuje do zadań polegających na czytaniu i wnioskowaniu na podstawie długich danych wejściowych, takich jak streszczanie długich raportów, analizowanie długich transkrypcji lub odpowiadanie na pytania w oparciu o duży zbiór tekstu. Ponieważ można przekazywać obrazy, wideo i audio, model może być używany do zadań takich jak opisywanie lub wyodrębnianie informacji z mediów wizualnych, praca z nagranym audio lub łączenie dokumentu ze zrzutem ekranu w jednym promptcie. Wywoływanie narzędzi i ustrukturyzowane wyjścia czynią go odpowiednim dla przepływów pracy w stylu agentowym oraz dla aplikacji, które potrzebują odpowiedzi w ustalonym schemacie, takich jak potoki ekstrakcji danych. Parametr reasoning daje sposób na żądanie wyjścia rozumowania, gdy zadanie na tym korzysta.

Model wywołujesz przez API zgodne z OpenAI na api14, używając identyfikatora modelu xiaomi/mimo-v2.6-pro-ultraspeed. Ponieważ endpoint jest zgodny z formatem uzupełnień czatu OpenAI, możesz użyć istniejących zestawów SDK OpenAI i skierować je na api14 lub wysyłać żądania bezpośrednio. Treść żądania przyjmuje parametry wymienione powyżej: temperature, top_p, frequency_penalty, presence_penalty, max_tokens, stop, response_format, structured_outputs, tools, tool_choice, reasoning i include_reasoning. Użyj max_tokens, aby ograniczyć długość wyjścia do maksymalnie 131,072 tokenów, oraz użyj tools z tool_choice, gdy chcesz, aby model wywołał funkcje, które zdefiniujesz.

Jedna rzecz do zapamiętania: model generuje wyłącznie tekst, więc nie jest właściwym wyborem, jeśli potrzebujesz wygenerowanych obrazów, audio lub wideo. Jego strona wejściowa jest multimodalna, ale odpowiedź jest zawsze tekstowa. Jeśli twoje obciążenie nie potrzebuje edycji szybkiej lub jeśli potrzebujesz modalności wyjściowych innych niż tekst, inny model może pasować lepiej. W przypadku zadań tekstowych obejmujących długie dane wejściowe, wejście mieszanych mediów, użycie narzędzi lub ustrukturyzowane wyjście, ten model obsługuje te przypadki bezpośrednio.