Microsoft: Microsoft-Decision-1

Microsoft-Decision-1 é um modelo da Microsoft, listado em api14 sob o id de modelo microsoft/microsoft-decision-1. Ele está na categoria de decisões em vez da categoria de chat geral, o que reflete para que foi construído: tomar decisões rápidas em vez de manter uma conversa. A Microsoft descreve-o como um modelo pequeno, por isso é direcionado para cargas de trabalho onde uma resposta rápida importa mais do que a geração de texto longo.

O modelo recebe texto como única entrada e devolve decisões como saída. Não escreve prosa. Em vez disso, lê o conteúdo que fornece e devolve uma probabilidade calibrada para cada opção de resposta fixa que lhe dá. Isto significa que define as respostas possíveis, e o modelo pontua-as em vez de escolher uma em texto livre. A janela de contexto é de 32768 tokens, e a saída máxima é de 29491 tokens. Nenhum parâmetro de pedido está listado como suportado para este modelo.

Como a saída é uma probabilidade por opção, os casos de uso naturais são tarefas de classificação e encaminhamento. Pode usá-lo para ordenar texto recebido numa de várias etiquetas conhecidas, para decidir qual fila ou handler deve processar um pedido, ou para pontuar respostas candidatas quando precisa de um valor de confiança em vez de uma única escolha rígida. Em qualquer situação onde, de outra forma, pediria a um modelo de chat para responder com uma palavra de um conjunto fixo, este modelo dá-lhe a mesma decisão com uma probabilidade calibrada associada, o que é útil quando a lógica a jusante precisa de agir com base na confiança do modelo.

Chamá-lo através de api14 funciona da mesma forma que qualquer outro modelo no gateway, usando a API compatível com OpenAI com o id de modelo microsoft/microsoft-decision-1. Envia o seu conteúdo e as suas opções de resposta fixas no pedido, e recebe de volta as probabilidades. Como nenhum parâmetro de pedido está listado como suportado, conte com a forma básica do pedido e evite depender de opções opcionais como temperature ou top_p para alterar o comportamento. Consulte a tabela de preços em direto na página para as tarifas atuais.

Os principais limites decorrem do design. A entrada é apenas texto, por isso imagens, áudio e outras modalidades estão fora do âmbito. A saída são decisões, não prosa, por isso se precisar de uma explicação, um resumo ou um documento gerado, um modelo de geração de texto é a melhor opção. A janela de contexto de 32768 tokens também limita quanto conteúdo pode fornecer por chamada. Dentro desses limites, é uma ferramenta focada para transformar texto em escolhas pontuadas rapidamente.