Auto Router

Auto Router è un modello di OpenRouter, identificato su api14 come openrouter/auto. Più che un singolo modello fisso, è un livello di routing: OpenRouter lo descrive come la selezione automatica del miglior modello per il tuo prompt, alimentata dalla saggezza del mercato, con il routing basato su ciò che la comunità spende collettivamente. Si colloca nella categoria principale image e porta anche la categoria text, quindi è pensato per lavori che spaziano su entrambe. La data di rilascio del provider è 2023-11-08.

Sul lato input, Auto Router accetta testo, immagini, audio, file e video, un insieme ampio di modalità per un singolo endpoint. Produce output di testo e immagini. La finestra di contesto è di 2.000.000 di token, abbastanza grande da contenere documenti molto lunghi o payload multimediali misti in una sola richiesta. Poiché il routing avviene dietro le quinte, il modello concreto che serve una determinata chiamata può variare con il prompt, ma l'interfaccia su cui scrivi il codice resta la stessa.

Gli usi pratici derivano da questa combinazione. Contesto lungo più input di file e testo si adatta ad analisi di documenti, riepilogo e risposta a domande su grandi corpora. Input di immagini e video con output di testo e immagini si adatta a didascalizzazione, ispezione visiva e attività di generazione o modifica in cui vuoi ottenere un'immagine indietro. L'input audio estende la stessa pipeline a flussi di lavoro vicini alla trascrizione o a contenuti parlati. Il supporto per tool e output strutturato lo rende ragionevole per applicazioni in stile agente che devono chiamare funzioni o restituire risposte in formato JSON, e l'opzione di ricerca web aiuta quando un prompt dipende da informazioni attuali.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando l'id del modello openrouter/auto, quindi gli SDK e i client OpenAI esistenti funzionano con il solo cambio di base URL e chiave. I parametri di richiesta supportati sono frequency_penalty, include_reasoning, logit_bias, logprobs, max_tokens, min_p, prediction, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_a, top_k, top_logprobs, top_p e web_search_options. I controlli di campionamento, le penalità, i seed, le sequenze di stop, le probabilità logaritmiche e i controlli di reasoning sono tutti disponibili, insieme a tool e output strutturati per l'uso programmatico.

Una cosa da valutare è che le decisioni di routing vengono prese per te, quindi se ti serve il comportamento esatto di un modello specifico, il determinismo tra le chiamate o un tetto di output fisso, un modello con nome può essere più adatto. Il valore maxOutput non è pubblicato qui, quindi pianifica tenendo conto di questa incertezza. Auto Router è meglio trattarlo come un endpoint di comodo per lavori a modalità mista e contesto lungo in cui preferisci non scegliere un modello per ogni richiesta.