Nous utilisons des cookies. Les cookies et le stockage du navigateur vous gardent connecté et mémorisent vos préférences. Avec votre accord, nous mesurons aussi l’utilisation du site. Vous pouvez à tout moment. Consultez notre politique relative aux cookies.
baseten/elephant-1Utilise votre solde aux prix indiqués ci-dessus. Les nouveaux comptes démarrent avec une consommation gratuite.
Paramètres
Baseten : Elephant 1 est un modèle de décision de Baseten, développé par Base Labs, l'équipe de recherche de l'entreprise. Il est construit sur Qwen3.5-9B et compte 9B de paramètres. Plutôt que de générer une conversation libre, le modèle est conçu pour renvoyer des décisions, ce qui le place dans la catégorie decisions sur api14. Si vous construisez un système qui a besoin qu'un modèle s'engage sur un choix plutôt que de produire de la prose, c'est le type de modèle à évaluer.
Le modèle accepte du texte en entrée et produit des décisions en sortie. Sa fenêtre de contexte est de 16 384 tokens, et la sortie maximale est de 14 745 tokens. Les entrées peuvent prendre la forme d'un état, fourni sous forme de texte ou de JSON, accompagné de questions typées. Les types de questions pris en charge sont oui/non, choix multiple et ordinal. Comme la modalité de sortie est decisions, attendez-vous à des réponses structurées aux questions que vous posez plutôt qu'à du texte narratif, et concevez votre analyse et votre logique en aval en conséquence.
Les cas d'usage pratiques découlent directement de cette conception. Un état plus une question oui/non convient aux portes d'approbation, aux vérifications d'éligibilité et au filtrage de politiques, où un pipeline a besoin d'un verdict clair sur un enregistrement ou une demande. Les questions à choix multiple correspondent aux tâches de routage et de classification, comme envoyer un ticket entrant vers la bonne file ou choisir une catégorie pour un document. Les questions ordinales sont utiles lorsque la réponse se situe sur une échelle, par exemple pour noter la gravité ou la priorité à partir d'un état fourni. Fournir l'état en JSON convient aux workflows où l'entrée provient déjà d'une API ou d'une base de données et où vous souhaitez la transmettre sans la reformater en prose. Dans chaque cas, le modèle lit l'état et répond à la question typée, ce qui garde la sortie étroite et plus facile à valider que du texte libre.
Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "baseten/elephant-1". Comme l'interface suit le format OpenAI, les bibliothèques clientes OpenAI existantes et les schémas de requête sont réutilisables, avec l'identifiant de modèle remplacé. Le modèle ne liste aucun paramètre de requête pris en charge au-delà de ce que l'API accepte par défaut, donc limitez les requêtes aux champs standard et évitez de vous appuyer sur des paramètres de réglage optionnels tels que temperature ou top_p ; vérifiez la liste des paramètres à jour sur la page avant de construire quoi que ce soit autour d'eux. La fenêtre de contexte de 16 384 tokens limite la quantité d'état et le nombre de questions que vous pouvez envoyer dans une seule requête, donc gardez les entrées dans ce budget.
Le modèle prend du texte en entrée et produit des décisions en sortie, il ne convient donc pas aux travaux qui nécessitent de la prose, des résumés ou d'autres textes générés ; un modèle de génération de texte général est le meilleur choix dans ce cas. L'absence de paramètres pris en charge signifie aussi que vous ne pouvez pas façonner le comportement d'échantillonnage via la requête, ce qui compte si vous avez besoin d'une sortie variée ou créative. Pour les tâches de décision sur un état borné, avec des questions typées et un contexte qui tient dans 16 384 tokens, Elephant 1 est une option ciblée à tester sur vos propres charges de travail.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/decisions", { body: {
"model": "baseten/elephant-1",
"state": "Customer: I was charged twice for my order and want my money back.",
"questions": {
"team": {
"type": "choice",
"instructions": "Which team should handle this message?",
"criteria": {
"billing": "Payments, refunds, invoices",
"support": "Product questions and bugs",
"sales": "Pricing and new purchases"
}
},
"urgent": {
"type": "noul",
"instructions": "Does this need a reply today?",
"criteria": {
"true": "Money, outage or legal risk",
"false": "Can wait"
}
}
}
} });
console.log(result.answers);
Cette communauté n’a encore aucun sujet. Ouvrez le premier sur Baseten: Elephant 1.