Auto Router

O Auto Router é um modelo da OpenRouter, identificado na api14 como openrouter/auto. Em vez de ser um único modelo fixo, é uma camada de encaminhamento: a OpenRouter descreve-o como selecionando automaticamente o melhor modelo para o seu prompt, alimentado pela sabedoria do mercado, encaminhando com base no que a comunidade gasta coletivamente. Situa-se na categoria principal de imagem e também transporta a categoria de texto, pelo que se destina a trabalho que abrange ambas. A data de lançamento do fornecedor é 2023-11-08.

Do lado da entrada, o Auto Router aceita texto, imagem, áudio, ficheiro e vídeo, o que é um conjunto amplo de modalidades para um único endpoint. Produz saída de texto e imagem. A janela de contexto é de 2.000.000 de tokens, suficientemente grande para conter documentos muito longos ou cargas de multimédia mista num único pedido. Como o encaminhamento acontece nos bastidores, o modelo concreto que serve uma determinada chamada pode variar com o prompt, mas a interface contra a qual programa permanece a mesma.

Os usos práticos decorrem dessa combinação. Contexto longo mais entrada de ficheiro e texto adequa-se a análise de documentos, sumarização e resposta a perguntas sobre grandes corpora. Entrada de imagem e vídeo com saída de texto e imagem adequa-se a legendagem, inspeção visual e tarefas de geração ou edição em que se pretende obter uma imagem de volta. A entrada de áudio estende o mesmo pipeline a fluxos de trabalho adjacentes à transcrição ou de conteúdo falado. O suporte a ferramentas e saída estruturada torna-o razoável para aplicações ao estilo de agentes que precisam de chamar funções ou devolver respostas em formato JSON, e a opção de pesquisa web ajuda quando um prompt depende de informação atual.

Chama-o através da API compatível com OpenAI da api14 usando o id de modelo openrouter/auto, pelo que os SDKs e clientes OpenAI existentes funcionam apenas com uma alteração de URL base e chave. Os parâmetros de pedido suportados são frequency_penalty, include_reasoning, logit_bias, logprobs, max_tokens, min_p, prediction, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_a, top_k, top_logprobs, top_p e web_search_options. Controlos de amostragem, penalizações, seeds, sequências de paragem, probabilidades de log e controlos de raciocínio estão todos disponíveis, a par de ferramentas e saídas estruturadas para uso programático.

Uma coisa a ponderar é que as decisões de encaminhamento são tomadas por si, pelo que, se precisar do comportamento exato de um modelo específico, de determinismo entre chamadas ou de um teto de saída fixo, um modelo nomeado pode encaixar melhor. O valor de maxOutput não é publicado aqui, pelo que planeie em torno dessa incerteza. O Auto Router é melhor tratado como um endpoint de conveniência para trabalho de modalidade mista e contexto longo, em que prefere não escolher um modelo por pedido.