ScaleDown: Classify-1

ScaleDown: Classify-1 é um modelo de decisão estruturado da ScaleDown, servido através da Decisions API do fornecedor. Em vez de gerar prosa de forma livre, foi concebido para responder a perguntas que você define antecipadamente, o que o coloca na categoria de decisões e não na categoria de chat geral. Se está a avaliar modelos em api14, a questão prática não é se escreve bem, mas se a sua tarefa pode ser enquadrada como uma escolha, uma pergunta sim/não, ou uma escala ordenada.

O modelo aceita texto, imagens e ficheiros como entrada, pelo que pode enviar uma passagem de texto, uma página digitalizada, ou um documento e tê-lo avaliado diretamente. A sua modalidade de saída é decisões: pontua a entrada fornecida em relação às perguntas definidas pelo chamador e devolve probabilidades calibradas. A janela de contexto é de 1.000.000 tokens, e a saída máxima é de 900.000, o que significa que documentos longos e grandes lotes de material podem ser tratados num único pedido sem fragmentação. Não há geração de texto livre para analisar, pelo que obtém respostas estruturadas em vez de frases que tem de interpretar.

Esse formato de saída aponta para um conjunto bastante específico de utilizações. Encaminhamento e triagem são aplicações naturais: decidir a que fila pertence um ticket, ou se uma mensagem recebida cumpre uma condição sim/não antes de chegar a um humano. A revisão de documentos é outra, uma vez que ficheiros e imagens são aceites, pelo que é possível classificar formulários, faturas, ou registos digitalizados em relação a um conjunto fixo de categorias. Perguntas com escala ordenada adequam-se a avaliação de sentimento ou gravidade, e como o modelo devolve probabilidades em vez de um único rótulo, pode definir o seu próprio limiar de confiança e enviar casos de baixa confiança para outro lado. Qualquer fluxo de trabalho em que precise de um julgamento consistente e repetível sobre muitos itens é uma melhor correspondência do que um em que precise de uma explicação escrita.

Pode chamá-lo através da API compatível com OpenAI do api14 usando o id de modelo "scaledown/classify-1". Como a interface é compatível com OpenAI, clientes e SDKs existentes funcionam com uma alteração de URL base e id de modelo. Note que a lista de parâmetros suportados está vazia, pelo que não deve assumir que controlos de amostragem como temperature ou top_p são aceites; envie o id de modelo, a sua entrada, e as perguntas que quer pontuar, e confie nos valores predefinidos. Consulte a tabela de preços em tempo real nesta página para tarifas atuais.

A principal limitação a ponderar é o próprio formato de saída. O Classify-1 devolve decisões, não prosa, pelo que se a sua aplicação precisa de um resumo escrito, uma resposta conversacional, ou conteúdo gerado de qualquer tipo, um modelo de texto geral encaixará melhor. Também vale a pena confirmar que as suas perguntas podem ser expressas como escolhas, sim/não, ou uma escala ordenada, uma vez que é esse o enquadramento em torno do qual o modelo foi concebido. Dentro desses limites, e com uma janela de contexto tão grande, é uma escolha razoável para classificação de elevado volume em que quer probabilidades sobre as quais possa agir em vez de texto que tenha de analisar.