Baseten: Elephant 1 (free)

Elephant 1 est un modèle de décision de Baseten, publié sous l'identifiant de modèle baseten/elephant-1:free. Il provient de Base Labs, l'équipe de recherche de Baseten, et est construit sur Qwen3.5-9B, une base de 9B paramètres. La catégorie principale du modèle est decisions, ce qui reflète ce pour quoi il est conçu plutôt que le chat général ou la génération de contenu. La date de publication du fournisseur indiquée pour ce modèle est le 2026-10-21.

Le modèle prend du texte comme modalité d'entrée et produit des décisions comme modalité de sortie. Il est conçu pour fonctionner à partir d'un état, fourni sous forme de texte ou de JSON, accompagné de questions typées. Ces questions peuvent être oui/non, à choix multiples ou ordinales. La fenêtre de contexte est de 16 384 tokens, et la sortie maximale est de 14 745 tokens. Les paramètres pris en charge ne sont pas listés pour ce modèle, donc vous ne devez pas supposer que des contrôles d'échantillonnage tels que temperature ou top_p sont disponibles lorsque vous l'appelez.

Comme la sortie est une décision plutôt qu'une prose libre, les usages pratiques découlent du fait de poser des questions structurées sur un état fourni. Vous pouvez transmettre un état JSON et poser une question oui/non pour obtenir un jugement binaire, ou présenter un ensemble d'options et demander au modèle de choisir parmi elles. Les questions ordinales vous permettent de placer un résultat sur une échelle plutôt que de choisir une seule étiquette. Cela convient à des flux de travail tels que le routage ou le triage, où une demande ou un enregistrement doit être classé avant un traitement ultérieur, et à des étapes de filtrage où un état doit être vérifié par rapport à une condition. Cela convient également à tout pipeline où vous voulez une réponse compacte et typée sur laquelle le code en aval peut agir, au lieu d'un texte qui doit être analysé.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "baseten/elephant-1:free". Comme l'API est compatible OpenAI, vous envoyez des requêtes sous la forme habituelle de chat completions, avec l'état et vos questions typées dans le contenu du message, et vous lisez la décision dans la réponse. Le modèle accepte une entrée texte et renvoie des décisions, donc gardez le prompt centré sur l'état et la question à laquelle vous voulez une réponse. Comme aucun paramètre pris en charge n'est listé, envoyez l'identifiant de modèle et vos messages et évitez de vous appuyer sur des paramètres de requête supplémentaires pour modifier le comportement.

Gardez la limite de contexte à l'esprit : 16 384 tokens couvrent l'état plus vos questions, donc les documents très volumineux devront être tronqués ou découpés avant l'envoi. Le plafond de sortie de 14 745 tokens est généreux pour une décision, mais la réponse elle-même est une décision plutôt qu'une explication, donc si vous avez besoin d'un raisonnement long, d'un résumé ou d'une génération ouverte, un modèle de texte général peut mieux convenir. Elephant 1 est le bon choix lorsque la tâche consiste à répondre à des questions typées sur un état donné et que vous voulez le résultat sous forme de décision.