TypeSafe: Jev 1.13

TypeSafe: Jev 1.13 ist ein strukturiertes Entscheidungsmodell von TypeSafe und das erste seiner System One Modelle. TypeSafe positioniert System One Modelle als Werkzeuge, die schnelle, strukturierte Entscheidungen für Software treffen und eine typisierte Auswahl statt freiformulierter Prosa zurückgeben. Jev 1.13 ist daher kein allgemeines Chat- oder Schreibmodell: Seine Hauptkategorie sind Entscheidungen, und Entscheidungen sind die einzige Kategorie, die es abdeckt. Wenn Sie Software entwickeln, die ein Modell benötigt, das zwischen definierten Optionen auswählt, gehört dies zu der Modellklasse, für die TypeSafe es entwickelt hat.

Das Modell akzeptiert Text als Eingabe und erzeugt Entscheidungen als Ausgabe. Es hat ein Kontextfenster von 64.000 Tokens und eine maximale Ausgabe von 57.600 Tokens. Da die Ausgabe eine typisierte Auswahl statt offenen Texts ist, sollten Sie Jev 1.13 als eine Komponente betrachten, die an einem Entscheidungspunkt in Ihrem System eingefügt wird, nicht als ein Modell, das Sie bitten, einen Aufsatz zu entwerfen oder ein Gespräch zu führen. Die Eingabeseite ist ausschließlich Text, daher müssten Bilder, Audio oder andere Modalitäten in Text umgewandelt werden, bevor sie das Modell erreichen.

Die praktischen Anwendungsfälle ergeben sich direkt aus dieser Form. Jev 1.13 eignet sich für Routing- und Triage-Logik, bei der eine Anfrage oder ein Datensatz einer aus einer bekannten Menge von Kategorien zugewiesen werden muss. Es eignet sich für Klassifizierungs- und Kennzeichnungsschritte innerhalb einer Pipeline, bei der die Ausgabe die nächste Stufe des Codes statt einen menschlichen Leser speist. Es eignet sich für Gating- und Genehmigungsentscheidungen, bei denen Software eine konsistente Auswahl unter definierten Ergebnissen benötigt. Es eignet sich außerdem für jeden Workflow, in dem Sie möchten, dass die Entscheidung als strukturierter Wert eintrifft, auf den Sie verzweigen können, statt Prosa zu parsen und zu hoffen, dass das Format hält.

Sie rufen das Modell über die OpenAI-kompatible API von api14 mit der Modell-ID "typesafe/jev-1.13" auf. Da die API OpenAI-kompatibel ist, funktionieren bestehende OpenAI-Client-Bibliotheken und die übliche Form von Chat-Completion-Anfragen ohne Umschreibung; Sie ändern die Modell-ID und richten Ihren Client auf api14 aus. Beachten Sie, dass das Modell keine unterstützten Parameter auflistet, daher sollten Sie eine einfache Anfrage senden und nicht darauf vertrauen, dass Tuning-Optionen wie temperature oder top_p berücksichtigt werden. Die Modell-ID ist die einzige Kennung, die Sie benötigen.

Eine Einschränkung sollten Sie im Hinterkopf behalten: den Umfang. Jev 1.13 gibt Entscheidungen zurück, daher sind Aufgaben, die generierte Prosa, Zusammenfassung, Übersetzung oder mehrstufige Konversation erfordern, schlecht geeignet, und ein allgemeines Textgenerierungsmodell würde Ihnen dort besser dienen. Ebenso gilt: Wenn Ihr Entscheidungsproblem Bild- oder Audioeingabe benötigt, akzeptiert dieses Modell sie nicht. Innerhalb seines Bereichs, strukturierte Auswahl bei Texteingabe, ist es die zweckgebundene Option.