Auto Router

Auto Router to model od OpenRouter, identyfikowany w api14 jako openrouter/auto. Nie jest to pojedynczy, stały model, lecz warstwa routingu: OpenRouter opisuje go jako automatycznie wybierający najlepszy model dla Twojego zapytania, napędzany mądrością rynku, kierujący się tym, na co społeczność zbiorowo wydaje środki. Należy do głównej kategorii obrazów i jednocześnie posiada kategorię tekstową, więc jest przeznaczony do pracy obejmującej oba te obszary. Data wydania przez dostawcę to 2023-11-08.

Po stronie wejścia Auto Router przyjmuje tekst, obraz, dźwięk, pliki i wideo, co stanowi szeroki zestaw modalności dla pojedynczego punktu końcowego. Generuje dane wyjściowe w postaci tekstu i obrazu. Okno kontekstu wynosi 2 000 000 tokenów, wystarczająco dużo, aby pomieścić bardzo długie dokumenty lub ładunki multimedialne w jednym żądaniu. Ponieważ routing odbywa się w tle, konkretny model obsługujący dane wywołanie może się zmieniać w zależności od zapytania, ale interfejs, przeciwko któremu programujesz, pozostaje taki sam.

Praktyczne zastosowania wynikają z tego połączenia. Długi kontekst oraz wejście plikowe i tekstowe pasują do analizy dokumentów, streszczania i odpowiadania na pytania dotyczące dużych zbiorów danych. Wejście obrazu i wideo z wyjściem tekstowym i obrazowym pasuje do opisywania, inspekcji wizualnej oraz zadań generowania lub edycji, w których chcesz otrzymać obraz z powrotem. Wejście dźwiękowe rozszerza ten sam potok na przepływy pracy związane z transkrypcją lub treścią mówioną. Obsługa narzędzi i ustrukturyzowanych danych wyjściowych czyni go rozsądnym wyborem dla aplikacji w stylu agentów, które muszą wywoływać funkcje lub zwracać odpowiedzi w formacie JSON, a opcja wyszukiwania w sieci pomaga, gdy zapytanie zależy od aktualnych informacji.

Wywołujesz go przez zgodne z OpenAI API api14, używając identyfikatora modelu openrouter/auto, więc istniejące zestawy SDK i klienty OpenAI działają po zmianie jedynie bazowego adresu URL i klucza. Obsługiwane parametry żądania to frequency_penalty, include_reasoning, logit_bias, logprobs, max_tokens, min_p, prediction, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_a, top_k, top_logprobs, top_p oraz web_search_options. Kontrolki próbkowania, kary, ziarna, sekwencje zatrzymania, logarytmy prawdopodobieństwa i kontrolki rozumowania są dostępne, obok narzędzi i ustrukturyzowanych danych wyjściowych do użycia programistycznego.

Jedna rzecz do rozważenia: decyzje routingu są podejmowane za Ciebie, więc jeśli potrzebujesz dokładnego zachowania konkretnego modelu, determinizmu między wywołaniami lub stałego limitu danych wyjściowych, nazwany model może pasować lepiej. Wartość maxOutput nie jest tutaj publikowana, więc planuj z uwzględnieniem tej niepewności. Auto Router najlepiej traktować jako wygodny punkt końcowy do pracy z mieszanymi modalnościami i długim kontekstem, gdy wolisz nie wybierać modelu dla każdego żądania.