TypeSafe: Jev 1.13

TypeSafe : Jev 1.13 est un modèle de décision structuré de TypeSafe, et le premier de ses modèles System One. TypeSafe positionne les modèles System One comme des outils qui prennent des décisions rapides et structurées pour le logiciel, renvoyant un choix typé plutôt que de la prose libre. Jev 1.13 n'est donc pas un modèle de chat ou de rédaction généraliste : sa catégorie principale est celle des décisions, et les décisions sont la seule catégorie qu'il couvre. Si vous développez un logiciel qui a besoin d'un modèle pour choisir entre des options définies, c'est la classe de modèle pour laquelle TypeSafe l'a conçu.

Le modèle accepte du texte en entrée et produit des décisions en sortie. Il dispose d'une fenêtre de contexte de 64 000 tokens et d'une sortie maximale de 57 600 tokens. Comme la sortie est un choix typé plutôt qu'un texte ouvert, vous devez considérer Jev 1.13 comme un composant qui s'insère à un point de décision dans votre système, et non comme un modèle auquel vous demandez de rédiger un essai ou de tenir une conversation. Le côté entrée est uniquement textuel, donc toute image, tout audio ou toute autre modalité devrait être converti en texte avant d'atteindre le modèle.

Les cas d'usage pratiques découlent directement de cette forme. Jev 1.13 convient à la logique de routage et de triage, où une requête ou un enregistrement doit être affecté à l'une d'un ensemble connu de catégories. Il convient aux étapes de classification et d'étiquetage au sein d'un pipeline, où la sortie alimente l'étape suivante du code plutôt qu'un lecteur humain. Il convient aux décisions de contrôle et d'approbation, où le logiciel a besoin d'un choix cohérent parmi des résultats définis. Il convient également à tout flux de travail où vous souhaitez que la décision arrive sous forme de valeur structurée sur laquelle vous pouvez brancher, au lieu d'analyser de la prose en espérant que le format tienne.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "typesafe/jev-1.13". Comme l'API est compatible OpenAI, les bibliothèques clientes OpenAI existantes et la forme habituelle de requête de complétion de chat fonctionnent sans réécriture ; vous changez l'identifiant de modèle et pointez votre client vers api14. Notez que le modèle ne liste aucun paramètre pris en charge, donc vous devez envoyer une requête simple et ne pas compter sur le respect d'options de réglage telles que temperature ou top_p. L'identifiant de modèle est le seul identifiant dont vous avez besoin.

Une limite à garder à l'esprit est la portée. Jev 1.13 renvoie des décisions, donc les tâches qui nécessitent de la prose générée, un résumé, une traduction ou une conversation multi-tours sont mal adaptées, et un modèle de génération de texte généraliste vous servirait mieux dans ces cas. De même, si votre problème de décision nécessite une entrée image ou audio, ce modèle ne l'accepte pas. Dans son domaine, les choix structurés sur une entrée textuelle, c'est l'option conçue pour cet usage.