Microsoft: Microsoft-Decision-1

Microsoft-Decision-1 è un modello di Microsoft, elencato su api14 con l'id modello microsoft/microsoft-decision-1. Si colloca nella categoria decisions anziche in quella general chat, il che riflette cio per cui e stato costruito: prendere decisioni rapide anziche sostenere una conversazione. Microsoft lo descrive come un modello piccolo, quindi e pensato per carichi di lavoro in cui una risposta rapida conta piu della generazione di testi lunghi.

Il modello accetta testo come unico input e restituisce decisioni come output. Non scrive prosa. Invece, legge il contenuto che fornisci e restituisce una probabilita calibrata per ogni opzione di risposta fissa che gli fornisci. Questo significa che sei tu a definire le risposte possibili, e il modello le valuta con un punteggio anziche sceglierne una in testo libero. La finestra di contesto e di 32768 token, e l'output massimo e di 29491 token. Non sono elencati parametri di richiesta supportati per questo modello.

Poiche l'output e una probabilita per opzione, i casi d'uso naturali sono le attivita di classificazione e instradamento. Puoi usarlo per ordinare il testo in ingresso in una tra diverse etichette note, per decidere quale coda o gestore debba elaborare una richiesta, oppure per valutare risposte candidate quando ti serve un valore di confidenza anziche una singola scelta netta. Ovunque altrimenti faresti in modo che un modello di chat risponda con una parola da un insieme fisso, questo modello ti fornisce la stessa decisione con associata una probabilita calibrata, il che e utile quando la logica a valle deve agire in base a quanto il modello e sicuro.

Chiamarlo tramite api14 funziona allo stesso modo di qualsiasi altro modello sul gateway, usando l'API compatibile con OpenAI con l'id modello microsoft/microsoft-decision-1. Invii il tuo contenuto e le tue opzioni di risposta fisse nella richiesta, e ricevi indietro le probabilita. Poiche non sono elencati parametri di richiesta supportati, prevedi la forma base della richiesta ed evita di fare affidamento su parametri opzionali come temperature o top_p per modificare il comportamento. Consulta la tabella dei prezzi aggiornata sulla pagina per le tariffe correnti.

I limiti principali derivano dal design. L'input e solo testo, quindi immagini, audio e altre modalita sono fuori ambito. L'output sono decisioni, non prosa, quindi se ti serve una spiegazione, un riassunto o un documento generato, un modello di generazione di testo e la scelta migliore. La finestra di contesto di 32768 token limita inoltre quanto contenuto puoi inserire per chiamata. Entro questi limiti, e uno strumento mirato per trasformare rapidamente il testo in scelte con punteggio.