TypeSafe: Jev 1.13

TypeSafe: Jev 1.13 är en strukturerad beslutsmodell från TypeSafe, och den första av deras System One-modeller. TypeSafe positionerar System One-modeller som verktyg som fattar snabba, strukturerade beslut för programvara, och returnerar ett typat val snarare än fri prosa. Jev 1.13 är därför inte en allmän chatt- eller skrivmodell: dess huvudkategori är beslut, och beslut är den enda kategori den täcker. Om du bygger programvara som behöver en modell för att välja mellan definierade alternativ, är detta den klass av modell som TypeSafe byggde den för att vara.

Modellen tar text som indata och producerar beslut som utdata. Den har ett kontextfönster på 64 000 tokens och en maximal utdata på 57 600 tokens. Eftersom utdata är ett typat val snarare än öppen text, bör du tänka på Jev 1.13 som en komponent som passar in i en beslutspunkt i ditt system, inte som en modell du ber att skriva ett utkast till en uppsats eller föra en konversation. Indatasidan är endast text, så eventuella bilder, ljud eller andra modaliteter skulle behöva konverteras till text innan de når modellen.

De praktiska användningsfallen följer direkt av den formen. Jev 1.13 passar för routnings- och triagelogik, där en begäran eller post måste tilldelas en av en känd uppsättning kategorier. Den passar för klassificerings- och märkningssteg i en pipeline, där utdata matar nästa steg i koden snarare än en mänsklig läsare. Den passar för grind- och godkännandebeslut, där programvara behöver ett konsekvent val bland definierade utfall. Den passar också för alla arbetsflöden där du vill att beslutet ska anlända som ett strukturerat värde du kan förgrena på, istället för att tolka prosa och hoppas att formatet håller.

Du anropar modellen via api14:s OpenAI-kompatibla API med modell-id:t "typesafe/jev-1.13". Eftersom API:et är OpenAI-kompatibelt fungerar befintliga OpenAI-klientbibliotek och den vanliga formen för chat completion-förfrågningar utan omskrivning; du ändrar modell-id:t och pekar din klient mot api14. Observera att modellen inte listar några stödda parametrar, så du bör skicka en vanlig förfrågan och inte förlita dig på att justeringsalternativ som temperature eller top_p respekteras. Modell-id:t är den enda identifierare du behöver.

En begränsning att ha i åtanke är omfattningen. Jev 1.13 returnerar beslut, så uppgifter som behöver genererad prosa, sammanfattning, översättning eller fleromgångskonversation passar dåligt, och en allmän textgenereringsmodell skulle tjäna dig bättre där. På samma sätt, om ditt beslutsproblem behöver bild- eller ljudindata, accepterar denna modell det inte. Inom sin bana, strukturerade val över textindata, är den det ändamålsenligt byggda alternativet.