Inception: Mercury Decide

Inception: Mercury Decide é um modelo de decisão estruturado da Inception. Em vez de um modelo de chat de uso geral, ele é construído em torno de uma tarefa específica: receber um estado que você fornece junto com perguntas tipadas e retornar uma decisão. Ele é servido como um endpoint System One, que descreve o estilo de inferência que a Inception usa para este modelo. Se sua aplicação precisa de uma resposta na forma de uma escolha, uma pontuação ou um sim/não em vez de um parágrafo de texto, esta é a categoria de modelo à qual ele pertence.

No lado da entrada, o Mercury Decide aceita texto. O estado que você envia e as perguntas que você anexa a ele são ambos texto, e as perguntas são tipadas, ou seja, cada pergunta carrega uma forma de resposta esperada. A saída é uma decisão em vez de texto de forma livre, correspondendo às perguntas tipadas que você fornece. A janela de contexto é de 65.536 tokens, e a saída máxima é de 58.982 tokens, então estados longos e muitas perguntas cabem em uma única requisição.

Os usos práticos decorrem diretamente dessa forma. Em qualquer lugar onde você escreveria lógica de regras ou um classificador para escolher entre opções, pontuar um item ou responder a uma pergunta de sim/não sobre um corpo de texto, o Mercury Decide pode produzir essa decisão a partir de um estado que você descreve na requisição. Exemplos incluem decisões de roteamento ou triagem, etapas de bloqueio em um pipeline onde um resultado booleano é suficiente, e pontuação de candidatos em relação a critérios. Como a saída já é uma decisão, você evita analisar texto de forma livre e pode entregar o resultado diretamente ao próximo estágio do seu sistema.

Você o chama através da API compatível com OpenAI da api14 usando o id de modelo "inception/mercury-decide". Como a API é compatível com OpenAI, bibliotecas de cliente e ferramentas OpenAI existentes funcionam com uma mudança de URL base. Observe que este modelo não lista nenhum parâmetro suportado, então não conte com controles de amostragem como temperature ou top_p sendo aceitos; envie o estado e as perguntas tipadas na requisição e leia a decisão a partir da resposta. Consulte a tabela de preços ao vivo nesta página para tarifas atuais.

Uma coisa a considerar antes de adotá-lo: o modelo é texto na entrada e decisões na saída. Ele não é a escolha certa quando você precisa de texto gerado, resumos, traduções ou outro texto de forma livre, e não é multimodal, então imagens, áudio e entradas semelhantes estão fora de escopo. Se sua tarefa é produzir conteúdo escrito em vez de resolver uma pergunta tipada, um modelo de geração de texto de uso geral irá atendê-lo melhor.