TypeSafe: Jev 1.13

TypeSafe: Jev 1.13 è un modello decisionale strutturato di TypeSafe, e il primo dei suoi modelli System One. TypeSafe posiziona i modelli System One come strumenti che prendono decisioni rapide e strutturate per il software, restituendo una scelta tipizzata anziché testo libero. Jev 1.13 non è quindi un modello generico di chat o di scrittura: la sua categoria principale è decisioni, e decisioni è l'unica categoria che copre. Se stai sviluppando software che ha bisogno di un modello per scegliere tra opzioni definite, questa è la classe di modello per cui TypeSafe lo ha costruito.

Il modello accetta testo come input e produce decisioni come output. Ha una finestra di contesto di 64.000 token e un output massimo di 57.600 token. Poiché l'output è una scelta tipizzata anziché testo aperto, dovresti considerare Jev 1.13 come un componente che si inserisce in un punto decisionale del tuo sistema, non come un modello a cui chiedere di scrivere un saggio o sostenere una conversazione. Il lato input è solo testo, quindi eventuali immagini, audio o altre modalità dovrebbero essere convertiti in testo prima di raggiungere il modello.

I casi d'uso pratici derivano direttamente da questa forma. Jev 1.13 si adatta alla logica di instradamento e triage, dove una richiesta o un record deve essere assegnato a una di un insieme noto di categorie. Si adatta a passaggi di classificazione ed etichettatura all'interno di una pipeline, dove l'output alimenta la fase successiva del codice anziché un lettore umano. Si adatta a decisioni di gating e approvazione, dove il software ha bisogno di una scelta coerente tra esiti definiti. Si adatta anche a qualsiasi flusso di lavoro in cui vuoi che la decisione arrivi come un valore strutturato su cui diramare, invece di analizzare testo sperando che il formato regga.

Chiami il modello tramite l'API compatibile con OpenAI di api14 usando l'id del modello "typesafe/jev-1.13". Poiché l'API è compatibile con OpenAI, le librerie client OpenAI esistenti e la consueta forma di richiesta chat completion funzionano senza riscritture; cambi l'id del modello e indirizzi il tuo client ad api14. Nota che il modello non elenca parametri supportati, quindi dovresti inviare una richiesta semplice e non contare sul fatto che opzioni di tuning come temperature o top_p vengano rispettate. L'id del modello è l'unico identificatore di cui hai bisogno.

Un limite da tenere a mente è l'ambito. Jev 1.13 restituisce decisioni, quindi compiti che richiedono testo generato, riassunto, traduzione o conversazione multi-turno sono poco adatti, e un modello generico di generazione di testo ti servirebbe meglio in quei casi. Allo stesso modo, se il tuo problema decisionale richiede input di immagini o audio, questo modello non li accetta. All'interno del suo ambito, scelte strutturate su input testuale, è l'opzione costruita appositamente.