OpenRouter: Fusion

OpenRouter: Fusion é um modelo de texto da OpenRouter. Está listado em api14 sob o id de modelo openrouter/fusion e situa-se na categoria de texto. Em vez de responder a um prompt com uma única passagem, o Fusion transforma o seu prompt numa pequena deliberação multi-modelo: um painel de modelos especialistas analisa o seu prompt em paralelo, com pesquisa web e obtenção web ativadas, e depois um passo adicional produz a resposta. Se está a escolher um modelo para uma tarefa em que a primeira resposta de um único modelo pode perder contexto que está disponível online, o Fusion foi construído em torno dessa ideia.

No lado da entrada, o Fusion aceita texto e devolve texto. Não aceita imagens, áudio ou outras entradas não textuais, e não as produz. A janela de contexto é de 1.000.000 de tokens, o que é suficientemente grande para conter documentos muito longos, bases de código, transcrições ou pacotes de investigação com vários documentos num único pedido. A descrição do fornecedor não indica um comprimento máximo de saída, por isso trate o dimensionamento da saída como algo a confirmar com o seu próprio uso em vez de assumir um limite publicado.

Os casos de uso práticos decorrem da análise especializada em paralelo mais a pesquisa web e a obtenção web. Tarefas de investigação e síntese encaixam bem: reunir informação de várias fontes e reconciliá-la numa única resposta. A verificação de factos e as perguntas sobre acontecimentos atuais beneficiam do acesso à web, uma vez que o painel pode procurar informações em vez de depender apenas dos dados de treino. Trabalho de contexto longo, como rever uma especificação extensa, comparar vários documentos longos ou resumir uma conversa extensa, também se adequa à janela de 1.000.000 de tokens. O prompting em estilo de deliberação, em que quer mais do que uma linha de raciocínio ponderada antes de uma resposta, é o cenário central para o qual o modelo foi concebido.

Chama-o através da API compatível com OpenAI da api14 usando o id de modelo openrouter/fusion, por isso os SDKs e clientes OpenAI existentes funcionam apenas com uma alteração de URL base e de chave. A lista de parâmetros suportados do modelo está vazia, o que significa que nenhum parâmetro de pedido além dos campos básicos de conclusão de chat está documentado como suportado. Na prática, envie as suas mensagens e confie nos valores predefinidos; não assuma que temperature, top_p, max_tokens ou opções de afinação semelhantes serão respeitadas, e verifique a resposta que recebe em vez de planear em torno de um comportamento específico de parâmetros.

Como a lista de parâmetros suportados está vazia e não é publicado nenhum máximo de saída, o Fusion é uma má escolha se a sua aplicação depende de controlo fino sobre a amostragem ou de um teto de saída garantido. É também apenas texto, por isso qualquer tarefa que envolva imagens ou áudio precisa de um modelo diferente. Para geração de texto simples e de grande volume, em que um único modelo rápido é suficiente, um modelo mais simples pode ser a melhor escolha; o Fusion destina-se a prompts em que a análise paralela e o acesso web em tempo real acrescentam valor.