Free Models Router

Free Models Router to model tekstowy od OpenRouter. Zamiast pojedynczego modelu ze stałymi wagami jest routerem: gdy wysyłasz żądanie, wybiera losowo darmowe modele spośród dostępnych mu modeli, filtrując te, które mogą obsłużyć żądanie. Dostawca opisuje go jako najprostszy sposób na darmowe wnioskowanie. Jest wymieniony w kategorii tekstowej i jest identyfikowany w api14 przez identyfikator modelu openrouter/free.

Router przyjmuje dane wejściowe tekstowe i obrazowe oraz zwraca dane wyjściowe tekstowe, więc może obsługiwać zarówno polecenia w języku naturalnym, jak i polecenia zawierające obrazy. Oferuje okno kontekstu wynoszące 200 000 tokenów, co jest wystarczająco duże dla długich dokumentów, rozbudowanych rozmów i sporych plików kodu w jednym żądaniu. Maksymalna długość danych wyjściowych nie jest określona w szczegółach modelu, więc rozmiar danych wyjściowych należy traktować jako zależny od modelu bazowego obsługującego żądanie, a nie jako stałą opublikowaną wartość.

Ponieważ router wybiera losowo spośród darmowych modeli, praktyczne przypadki użycia to ogólne zadania tekstowe i wizyjne, które te modele obsługują. Możesz go używać do czatu i odpowiadania na pytania, streszczania długich danych wejściowych mieszczących się w oknie kontekstu, tworzenia i edycji tekstu, wyodrębniania danych strukturalnych za pomocą formatów odpowiedzi i ustrukturyzowanych danych wyjściowych oraz budowania agentów lub przepływów wywoływania narzędzi. Wejście obrazowe rozszerza to na zadania takie jak opisywanie obrazów, odpowiadanie na pytania dotyczące zrzutów ekranu lub diagramów oraz łączenie kontekstu wizualnego z instrukcjami pisemnymi. Nadaje się do prototypowania, eksperymentowania i zadań o niskich stawkach, w których chcesz uzyskać wnioskowanie bez zobowiązania się do konkretnego modelu.

Wywołujesz go przez zgodne z OpenAI API api14, używając identyfikatora modelu openrouter/free. Żądania mają znaną postać uzupełnień czatu, więc istniejące biblioteki klienckie OpenAI działają po zmianie bazowego adresu URL i identyfikatora modelu. Router obsługuje szeroki zestaw parametrów żądania: temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty i repetition_penalty do kontroli próbkowania; max_tokens i max_completion_tokens do długości danych wyjściowych; stop dla sekwencji zatrzymujących; seed dla powtarzalności; logprobs i top_logprobs dla szczegółów na poziomie tokenów; response_format i structured_outputs dla ograniczonych danych wyjściowych; tools i tool_choice dla wywoływania funkcji; oraz reasoning, reasoning_effort i include_reasoning dla modeli, które ujawniają zachowanie rozumowania.

Jedna rzecz do zapamiętania: router wybiera modele losowo, więc dokładny model stojący za żądaniem może się różnić między wywołaniami. To sprawia, że zachowanie jest mniej przewidywalne niż przypięcie pojedynczego modelu, a parametry takie jak reasoning_effort lub ustrukturyzowane dane wyjściowe mogą być respektowane różnie w zależności od wybranego modelu. Jeśli potrzebujesz spójnych danych wyjściowych, powtarzalnego zachowania lub określonego zestawu możliwości, dedykowany model prawdopodobnie będzie lepszym wyborem. Jeśli chcesz darmowego wnioskowania w zakresie różnych zadań tekstowych i obrazowych i możesz zaakceptować tę zmienność, openrouter/free jest prostą opcją.