Nace.AI: Drex v2.0

Nace.AI: Drex v2.0 es un modelo de decisión de Nace.AI, y el sucesor más grande de Drex v1.5. Está construido como un modelo de mezcla de expertos de 35B con 3B de parámetros activos, y se sitúa en la categoría de decisiones en lugar de la categoría de chat general. Si lo estás evaluando, el encuadre importante es que no es un generador de texto en el sentido habitual: está diseñado para tomar una situación descrita y devolver respuestas a preguntas específicas sobre ella.

El modelo acepta entrada de texto, incluido JSON, y produce decisiones como salida. El proveedor describe el patrón previsto como dar al modelo un estado (texto o JSON) más preguntas tipadas, como sí/no o elección múltiple, y recibir las respuestas correspondientes. La ventana de contexto es de 131072 tokens, y la salida máxima es de 117964 tokens. Debido a que la modalidad de salida son decisiones en lugar de prosa de forma libre, deberías esperar respuestas estructuradas a las preguntas que plantees, no un ensayo ni una respuesta de chat.

Esa forma apunta a un conjunto bastante específico de usos. En cualquier lugar donde tengas un estado que puedas serializar como texto o JSON y un conjunto de preguntas discretas sobre él, Drex v2.0 es un candidato: decisiones de triaje y enrutamiento, clasificación en un conjunto fijo de opciones, comprobaciones de habilitación sí/no, o selección de elección múltiple sobre un espacio de respuestas definido. La gran ventana de contexto significa que el estado que pasas puede ser largo, así que las preguntas pueden fundamentarse en un cuerpo sustancial de entrada en lugar de un fragmento corto. Es menos obviamente adecuado para tareas en las que quieres prosa generada, resumen o conversación abierta, ya que eso no es lo que cubre su modalidad de salida.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo "nace-ai/drex-v2.0". Debido a que la API es compatible con OpenAI, puedes apuntar un cliente de OpenAI existente a api14 y enviar solicitudes en la forma habitual de chat completions, con el campo model establecido en ese id. Ten en cuenta que el modelo no lista parámetros soportados, así que no deberías asumir que se aceptan ajustes como temperature o top_p; envía el estado de entrada y tus preguntas tipadas y confía en los valores predeterminados. La tabla de precios en vivo de esta página cubre lo que cuesta una solicitud.

En cuanto a los límites, los hechos aquí son limitados. El modelo es texto de entrada y decisiones de salida, así que si tu tarea necesita entrada de imagen o audio, o necesita texto generado como salida, otro modelo encajará mejor. Del mismo modo, dado que no se listan parámetros soportados, si tu pipeline depende de ajustar el comportamiento de muestreo, verifícalo antes de comprometerte. Dentro de esos límites, Drex v2.0 está dirigido directamente a tareas de decisión estructuradas sobre estados largos de texto o JSON.