Upstage: Solar Decide

Solar Decide é um modelo de decisão estruturado da Upstage, listado em api14 sob o id de modelo upstage/solar-decide. A Upstage posiciona-o como um endpoint System One construído sobre o Solar Mini 4, e a sua categoria principal é decisões. Em vez de um modelo de chat de uso geral, é um endpoint especializado cuja função é receber um estado que fornece e devolver uma decisão.

O modelo aceita entrada de texto e produz decisões como saída. Funciona recebendo um estado juntamente com perguntas tipadas, e devolve uma escolha juntamente com o resultado associado. A janela de contexto é de 524288 tokens, o que é suficientemente grande para conter descrições de estado substanciais, históricos ou material de apoio num único pedido. A saída máxima é de 471859 tokens. A entrada é apenas texto, e a modalidade de saída são decisões em vez de prosa de forma livre.

Como o modelo é construído em torno de estado mais perguntas tipadas, os casos de uso práticos decorrem dessa forma. Adequa-se a fluxos de trabalho em que já tem contexto estruturado e precisa de uma resposta discreta: decisões de encaminhamento ou triagem, seleção de uma opção de um conjunto definido, classificação de uma situação numa categoria, ou resolução de um ramo num pipeline automatizado. Em qualquer situação em que, de outro modo, escreveria regras ou uma função de pontuação e quer que um modelo tome a decisão a partir de um estado descrito, este endpoint é o indicado. É menos adequado para geração aberta, sumarização ou conversação, uma vez que não é isso que devolve.

Chama-o através da API compatível com OpenAI da api14 usando o id de modelo upstage/solar-decide, da mesma forma que chamaria qualquer outro modelo no gateway. O modelo não reporta parâmetros suportados, pelo que não deve contar com opções de ajuste como temperature ou top_p a serem aceites; envie o seu estado e perguntas tipadas no pedido e leia a decisão a partir da resposta. Como a interface é compatível com OpenAI, bibliotecas de cliente e código existentes que já visam a api14 funcionarão sem reescrita.

A principal limitação a ter em conta é o âmbito. O Solar Decide devolve decisões, não texto, pelo que, se a sua aplicação precisa de uma explicação, um resumo ou uma resposta de chat, um modelo de texto geral será mais adequado. A sua entrada apenas de texto também significa que não pode receber imagens ou áudio. Se a sua tarefa é genuinamente uma escolha entre opções dado um estado descrito, este modelo é a correspondência direta; se for qualquer outra coisa, procure noutro lado na api14.