Nace.AI: Drex v2.0

Nace.AI: Drex v2.0 è un modello decisionale di Nace.AI, e il successore più grande di Drex v1.5. È costruito come un modello mixture-of-experts da 35B con 3B parametri attivi, e si colloca nella categoria delle decisioni piuttosto che in quella della chat generica. Se lo stai valutando, l'inquadramento importante è che non è un generatore di testo nel senso usuale: è progettato per prendere una situazione descritta e restituire risposte a domande specifiche su di essa.

Il modello accetta input testuale, incluso JSON, e produce decisioni come output. Il provider descrive il pattern previsto come dare al modello uno stato (testo o JSON) più domande tipizzate come sì/no o a scelta multipla, e ricevere le risposte corrispondenti. La finestra di contesto è di 131072 token, e l'output massimo è di 117964 token. Poiché la modalità di output è costituita da decisioni anziché da prosa libera, dovresti aspettarti risposte strutturate alle domande che poni, non un saggio o una risposta da chat.

Questa forma indica un insieme di utilizzi piuttosto specifico. Ovunque tu abbia uno stato che puoi serializzare come testo o JSON e un insieme di domande discrete su di esso, Drex v2.0 è un candidato: decisioni di triage e instradamento, classificazione in un insieme fisso di opzioni, controlli di gating sì/no, o selezione a scelta multipla su uno spazio di risposte definito. L'ampia finestra di contesto significa che lo stato che passi può essere lungo, quindi le domande possono essere fondate su una sostanziale mole di input anziché su un breve frammento. È meno ovviamente adatto a compiti in cui vuoi prosa generata, riassunti o conversazione aperta, poiché non è questo che copre la sua modalità di output.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando il model id "nace-ai/drex-v2.0". Poiché l'API è compatibile con OpenAI, puoi puntare un client OpenAI esistente su api14 e inviare richieste nella consueta forma chat completions, con il campo model impostato su quell'id. Nota che il modello non elenca parametri supportati, quindi non dovresti presumere che manopole di regolazione come temperature o top_p siano accettate; invia lo stato di input e le tue domande tipizzate e affidati ai valori predefiniti. La tabella dei prezzi live su questa pagina copre quanto costa una richiesta.

Sui limiti, i fatti qui sono ristretti. Il modello è testo in input e decisioni in output, quindi se il tuo compito richiede input di immagini o audio, o richiede testo generato come output, un altro modello si adatterà meglio. Allo stesso modo, poiché non sono elencati parametri supportati, se la tua pipeline dipende dalla regolazione del comportamento di campionamento, verificalo prima di impegnarti. Entro questi confini, Drex v2.0 è mirato direttamente a compiti decisionali strutturati su stati testuali o JSON lunghi.