Usamos cookies. Las cookies y el almacenamiento del navegador mantienen tu sesión iniciada y recuerdan tus preferencias. Con tu permiso, también medimos cómo se usa el sitio. Puedes en cualquier momento. Consulta nuestra política de cookies.
baseten/elephant-1Se ejecuta con tu saldo a los precios indicados arriba. Las cuentas nuevas empiezan con uso gratuito.
Configuración
Baseten: Elephant 1 es un modelo de decisiones de Baseten, desarrollado por Base Labs, el equipo de investigación de la empresa. Está construido sobre Qwen3.5-9B y tiene 9B parámetros. En lugar de generar conversación de forma libre, el modelo está diseñado para devolver decisiones, lo que lo sitúa en la categoría de decisiones en api14. Si estás construyendo un sistema que necesita que un modelo se comprometa con una elección en lugar de producir texto, este es el tipo de modelo a evaluar.
El modelo acepta entrada de texto y produce decisiones como salida. Su ventana de contexto es de 16,384 tokens, y la salida máxima es de 14,745 tokens. Las entradas pueden tomar la forma de un estado, proporcionado como texto o JSON, junto con preguntas tipadas. Los tipos de pregunta admitidos son sí/no, opción múltiple y ordinal. Dado que la modalidad de salida son decisiones, debes esperar respuestas estructuradas a las preguntas que plantees en lugar de texto narrativo, y diseñar tu análisis y lógica posterior en torno a eso.
Los casos de uso prácticos se derivan directamente de ese diseño. Un estado más una pregunta de sí/no encaja con puertas de aprobación, verificaciones de elegibilidad y cribado de políticas, donde un pipeline necesita un veredicto claro sobre un registro o solicitud. Las preguntas de opción múltiple encajan con tareas de enrutamiento y clasificación, como enviar un ticket entrante a la cola correcta o elegir una categoría para un documento. Las preguntas ordinales son útiles cuando la respuesta se sitúa en una escala, por ejemplo calificar la severidad o la prioridad a partir de un estado proporcionado. Proporcionar el estado como JSON encaja con flujos de trabajo donde la entrada ya proviene de una API o base de datos y quieres pasarla sin reformatearla a texto. En cada caso el modelo lee el estado y responde la pregunta tipada, lo que mantiene la salida acotada y más fácil de validar que el texto libre.
Llamas al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "baseten/elephant-1". Como la interfaz sigue el formato de OpenAI, las bibliotecas cliente de OpenAI existentes y los patrones de solicitud se mantienen, con el id de modelo sustituido. El modelo no lista parámetros de solicitud admitidos más allá de lo que la API acepta por defecto, así que mantén las solicitudes en los campos estándar y evita depender de parámetros de ajuste opcionales como temperature o top_p; consulta la lista de parámetros en vivo en la página antes de construir en torno a cualquiera de ellos. La ventana de contexto de 16,384 tokens limita cuánto estado y cuántas preguntas puedes enviar en una sola solicitud, así que mantén las entradas dentro de ese presupuesto.
El modelo es texto de entrada y decisiones de salida, por lo que no encaja en trabajos que necesitan prosa, resúmenes u otro texto generado; un modelo de generación de texto general es la mejor opción ahí. La ausencia de parámetros admitidos también significa que no puedes moldear el comportamiento de muestreo a través de la solicitud, lo cual importa si necesitas salida variada o creativa. Para tareas de decisión sobre un estado acotado, con preguntas tipadas y un contexto que quepa dentro de 16,384 tokens, Elephant 1 es una opción enfocada para probar contra tus propias cargas de trabajo.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/decisions", { body: {
"model": "baseten/elephant-1",
"state": "Customer: I was charged twice for my order and want my money back.",
"questions": {
"team": {
"type": "choice",
"instructions": "Which team should handle this message?",
"criteria": {
"billing": "Payments, refunds, invoices",
"support": "Product questions and bugs",
"sales": "Pricing and new purchases"
}
},
"urgent": {
"type": "noul",
"instructions": "Does this need a reply today?",
"criteria": {
"true": "Money, outage or legal risk",
"false": "Can wait"
}
}
}
} });
console.log(result.answers);
Esta comunidad aún no tiene temas. Abre el primero sobre Baseten: Elephant 1.