Together: Tev1 4B Experimental

Together : Tev1 4B Experimental est un modèle de décision expérimental de Together AI. Il s'agit d'un fine-tune supervisé de Qwen3.5-4B, entraîné à choisir une option parmi un état structuré, une question et une liste d'options. Le modèle appartient à la catégorie des décisions, et son nom reflète son statut : il s'agit d'une version expérimentale plutôt que d'un modèle de chat polyvalent.

Le modèle prend du texte comme seule entrée et produit des décisions comme seule sortie. Sa fenêtre de contexte est de 32768 tokens, ce qui suffit pour contenir un état structuré, une question et une liste de 2 à 24 options candidates dans une seule requête. La sortie maximale est de 8 tokens, ce qui correspond à la forme de la tâche : le modèle renvoie un choix, pas une dissertation. Il n'y a pas de génération de texte libre ici, ni d'entrée image, audio ou autre non textuelle.

Comme la sortie est une décision unique tirée d'une liste fournie, les cas d'usage pratiques sont ceux où un système doit choisir une option parmi un ensemble connu. Les exemples incluent le routage d'une requête vers le bon gestionnaire, la sélection d'une catégorie ou d'un label dans une taxonomie fixe, le choix de la prochaine action dans un workflow, ou la résolution d'une branche dans une boucle d'agent. L'état structuré et la question donnent au modèle le contexte dont il a besoin, et la liste d'options borne l'espace de réponse, de sorte que le résultat peut être consommé directement par le code en aval sans analyser de texte en prose.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "togethercomputer/tev1-4b-experimental". Comme l'interface suit la forme des chat completions d'OpenAI, vous envoyez votre état, votre question et vos options sous forme de texte dans le corps de requête habituel et vous lisez la décision dans la réponse. Le modèle ne prend en charge aucun paramètre de requête supplémentaire au-delà des paramètres standard, donc il n'y a pas de temperature, top_p ou autre contrôle d'échantillonnage à régler. Avec une sortie maximale de 8 tokens, les réponses sont courtes par conception.

Ce modèle convient aux tâches de décision avec un ensemble d'options borné, pas aux conversations ouvertes, à la rédaction longue ou au raisonnement lourd en outils. Si votre tâche nécessite de la prose générée, une explication en plusieurs étapes ou des entrées autres que du texte, un autre modèle conviendra mieux. Le contexte de 32768 tokens et la plage de 2 à 24 options définissent également la forme des problèmes pour lesquels il a été entraîné, donc gardez l'état et la question concis et la liste d'options dans cette plage.