Inception: Mercury Decide

Inception: Mercury Decide è un modello decisionale strutturato di Inception. Piuttosto che un modello di chat generico, è costruito attorno a un compito specifico: prendere uno stato che fornisci insieme a domande tipizzate e restituire una decisione. È servito come endpoint System One, che descrive lo stile di inferenza che Inception utilizza per questo modello. Se la tua applicazione necessita di una risposta sotto forma di scelta, punteggio o sì/no anziché un paragrafo di prosa, questa è la categoria di modello a cui appartiene.

Sul lato input, Mercury Decide accetta testo. Lo stato che invii e le domande che vi alleghi sono entrambi testo, e le domande sono tipizzate, nel senso che ogni domanda porta con sé una forma di risposta attesa. L'output è una decisione anziché testo libero, corrispondente alle domande tipizzate che fornisci. La finestra di contesto è di 65.536 token, e l'output massimo è di 58.982 token, quindi stati lunghi e molte domande possono entrare in una singola richiesta.

Gli usi pratici derivano direttamente da questa forma. Ovunque altrimenti scriveresti logica di regole o un classificatore per scegliere tra opzioni, assegnare un punteggio a un elemento o rispondere a una domanda sì/no su un corpo di testo, Mercury Decide può produrre quella decisione da uno stato che descrivi nella richiesta. Esempi includono decisioni di instradamento o triage, passaggi di gating in una pipeline dove un risultato booleano è sufficiente, e assegnazione di punteggi a candidati rispetto a criteri. Poiché l'output è già una decisione, eviti di analizzare testo libero e puoi passare il risultato direttamente alla fase successiva del tuo sistema.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando l'id del modello "inception/mercury-decide". Poiché l'API è compatibile con OpenAI, le librerie client e gli strumenti OpenAI esistenti funzionano con un cambio di base URL. Nota che questo modello non elenca parametri supportati, quindi non fare affidamento sull'accettazione di controlli di campionamento come temperature o top_p; invia lo stato e le domande tipizzate nella richiesta e leggi la decisione dalla risposta. Controlla la tabella dei prezzi live su questa pagina per le tariffe correnti.

Una cosa da valutare prima di adottarlo: il modello è testo in input e decisioni in output. Non è adatto quando hai bisogno di prosa generata, riassunti, traduzioni o altro testo libero, e non è multimodale, quindi immagini, audio e input simili sono fuori ambito. Se il tuo compito è produrre contenuto scritto anziché risolvere una domanda tipizzata, un modello di generazione di testo generale ti servirà meglio.