Microsoft: Microsoft-Decision-1

Microsoft-Decision-1 ist ein Modell von Microsoft, gelistet auf api14 unter der Modell-ID microsoft/microsoft-decision-1. Es befindet sich in der Kategorie decisions statt in der allgemeinen Chat-Kategorie, was widerspiegelt, wofür es gebaut wurde: schnelle Entscheidungen treffen statt ein Gespräch zu führen. Microsoft beschreibt es als kleines Modell, es zielt also auf Workloads ab, bei denen eine schnelle Antwort wichtiger ist als Langtext-Generierung.

Das Modell nimmt Text als einzige Eingabe und gibt Entscheidungen als Ausgabe zurück. Es schreibt keine Prosa. Stattdessen liest es den von Ihnen bereitgestellten Inhalt und gibt für jede feste Antwortoption, die Sie ihm geben, eine kalibrierte Wahrscheinlichkeit zurück. Das bedeutet, Sie definieren die möglichen Antworten, und das Modell bewertet sie, statt eine in freiem Text auszuwählen. Das Kontextfenster beträgt 32768 Token, und die maximale Ausgabe beträgt 29491 Token. Für dieses Modell sind keine unterstützten Anfrageparameter aufgeführt.

Da die Ausgabe eine Wahrscheinlichkeit pro Option ist, sind die natürlichen Anwendungsfälle Klassifizierungs- und Routing-Aufgaben. Sie können es verwenden, um eingehenden Text in eine von mehreren bekannten Labels einzusortieren, um zu entscheiden, welche Warteschlange oder welcher Handler eine Anfrage verarbeiten soll, oder um Kandidatenantworten zu bewerten, wenn Sie einen Konfidenzwert statt einer einzelnen harten Auswahl benötigen. Überall dort, wo Sie sonst ein Chat-Modell auffordern würden, mit einem Wort aus einer festen Menge zu antworten, liefert dieses Modell dieselbe Entscheidung mit einer angehängten kalibrierten Wahrscheinlichkeit, was nützlich ist, wenn nachgelagerte Logik darauf reagieren muss, wie sicher sich das Modell ist.

Der Aufruf über api14 funktioniert genauso wie bei jedem anderen Modell auf dem Gateway, unter Verwendung der OpenAI-kompatiblen API mit der Modell-ID microsoft/microsoft-decision-1. Sie senden Ihren Inhalt und Ihre festen Antwortoptionen in der Anfrage, und Sie erhalten die Wahrscheinlichkeiten zurück. Da keine unterstützten Anfrageparameter aufgeführt sind, planen Sie mit der grundlegenden Anfrageform und verlassen Sie sich nicht auf optionale Stellschrauben wie temperature oder top_p, um das Verhalten zu ändern. Prüfen Sie die live Preistabelle auf der Seite für aktuelle Tarife.

Die wichtigsten Grenzen ergeben sich aus dem Design. Die Eingabe ist nur Text, Bilder, Audio und andere Modalitäten fallen also weg. Die Ausgabe sind Entscheidungen, keine Prosa, wenn Sie also eine Erklärung, eine Zusammenfassung oder ein generiertes Dokument benötigen, ist ein Textgenerierungsmodell die bessere Wahl. Das Kontextfenster von 32768 Token begrenzt zudem, wie viel Inhalt Sie pro Aufruf einspeisen können. Innerhalb dieser Grenzen ist es ein fokussiertes Werkzeug, um Text schnell in bewertete Auswahlmöglichkeiten zu verwandeln.