Microsoft: Microsoft-Decision-1

Microsoft-Decision-1 är en modell från Microsoft, listad på api14 under modell-id microsoft/microsoft-decision-1. Den ligger i kategorin decisions snarare än den allmänna chat-kategorin, vilket speglar vad den byggdes för att göra: fatta snabba beslut snarare än att föra en konversation. Microsoft beskriver den som en liten modell, så den riktar sig mot arbetsbelastningar där ett snabbt svar betyder mer än långformig generering.

Modellen tar text som enda indata och returnerar beslut som utdata. Den skriver inte prosa. Istället läser den innehållet du tillhandahåller och returnerar en kalibrerad sannolikhet för varje fast svarsalternativ du ger den. Det innebär att du definierar de möjliga svaren, och modellen poängsätter dem snarare än att välja ett i fritext. Kontextfönstret är 32768 tokens, och maximal utdata är 29491 tokens. Inga begärandeparametrar listas som stödda för denna modell.

Eftersom utdata är en sannolikhet per alternativ är de naturliga användningsfallen klassificering och routing. Du kan använda den för att sortera inkommande text i en av flera kända etiketter, för att avgöra vilken kö eller hanterare som ska bearbeta en begäran, eller för att poängsätta kandidatsvar när du behöver ett konfidensvärde snarare än ett enda hårt val. Överallt där du annars skulle uppmana en chat-modell att svara med ett ord från en fast uppsättning, ger denna modell dig samma beslut med en kalibrerad sannolikhet kopplad till sig, vilket är användbart när nedströmslogik behöver agera utifrån hur säker modellen är.

Att anropa den via api14 fungerar på samma sätt som vilken annan modell som helst på gatewayen, med hjälp av det OpenAI-kompatibla API:et med modell-id microsoft/microsoft-decision-1. Du skickar ditt innehåll och dina fasta svarsalternativ i begäran, och du får tillbaka sannolikheterna. Eftersom inga begärandeparametrar listas som stödda bör du planera för den grundläggande begäransformen och undvika att förlita dig på valfria inställningar som temperature eller top_p för att ändra beteendet. Kontrollera den aktuella pristabellen på sidan för gällande priser.

De främsta begränsningarna följer av designen. Indata är endast text, så bilder, ljud och andra modaliteter ligger utanför omfånget. Utdata är beslut, inte prosa, så om du behöver en förklaring, en sammanfattning eller ett genererat dokument är en textgenereringsmodell ett bättre val. Kontextfönstret på 32768 tokens begränsar också hur mycket innehåll du kan mata in per anrop. Inom dessa gränser är det ett fokuserat verktyg för att snabbt omvandla text till poängsatta val.