Inception: Mercury Decide

Inception: Mercury Decide es un modelo de decisión estructurado de Inception. En lugar de un modelo de chat de propósito general, está construido en torno a un trabajo específico: tomar un estado que usted proporciona junto con preguntas tipadas y devolver una decisión. Se sirve como un endpoint de System One, que describe el estilo de inferencia que Inception utiliza para este modelo. Si su aplicación necesita una respuesta en forma de una elección, una puntuación o un sí/no en lugar de un párrafo de prosa, esta es la categoría de modelo a la que pertenece.

En el lado de la entrada, Mercury Decide acepta texto. El estado que envía y las preguntas que le adjunta son ambos texto, y las preguntas son tipadas, lo que significa que cada pregunta lleva una forma de respuesta esperada. La salida es una decisión en lugar de texto de forma libre, que coincide con las preguntas tipadas que usted proporciona. La ventana de contexto es de 65,536 tokens, y la salida máxima es de 58,982 tokens, por lo que estados largos y muchas preguntas pueden caber en una sola solicitud.

Los usos prácticos se derivan directamente de esa forma. En cualquier lugar donde de otro modo escribiría lógica de reglas o un clasificador para elegir entre opciones, puntuar un elemento o responder una pregunta de sí/no sobre un cuerpo de texto, Mercury Decide puede producir esa decisión a partir de un estado que usted describa en la solicitud. Los ejemplos incluyen decisiones de enrutamiento o triaje, pasos de control en un pipeline donde un resultado booleano es suficiente, y puntuar candidatos según criterios. Debido a que la salida ya es una decisión, evita analizar texto de forma libre y puede entregar el resultado directamente a la siguiente etapa de su sistema.

Se llama a través de la API compatible con OpenAI de api14 usando el id de modelo "inception/mercury-decide". Debido a que la API es compatible con OpenAI, las bibliotecas de cliente y las herramientas de OpenAI existentes funcionan con un cambio de URL base. Tenga en cuenta que este modelo no lista parámetros admitidos, así que no confíe en que se acepten controles de muestreo como temperature o top_p; envíe el estado y las preguntas tipadas en la solicitud y lea la decisión de la respuesta. Consulte la tabla de precios en vivo en esta página para conocer las tarifas actuales.

Una cosa a sopesar antes de adoptarlo: el modelo es texto de entrada y decisiones de salida. No es la opción adecuada cuando necesita prosa generada, resúmenes, traducciones u otro texto de forma libre, y no es multimodal, por lo que las imágenes, el audio y entradas similares quedan fuera de su alcance. Si su tarea es producir contenido escrito en lugar de resolver una pregunta tipada, un modelo de generación de texto general le servirá mejor.