LiquidAI: d1-ultra

LiquidAI: d1-ultra es un modelo de LiquidAI, y es el modelo de decisión más grande que ofrece el proveedor. Se sitúa en la categoría de decisiones en lugar de la categoría de chat general, lo que te indica para qué sirve: en lugar de producir prosa conversacional, está construido para devolver una elección. Se sirve como un endpoint de System One, así que deberías pensarlo como un componente al que llamas para tomar una decisión dentro de un sistema mayor, no como un asistente con el que conversas.

El modelo acepta texto e imágenes como entrada, y su modalidad de salida son decisiones. Envías un estado compuesto por texto e imágenes junto con preguntas tipadas, y devuelve una elección. La ventana de contexto es de 32,768 tokens, y la salida máxima es de 29,491 tokens. Como las entradas son preguntas tipadas sobre un estado, el modelo está diseñado en torno a llamadas estructuradas en lugar de prompting abierto, y las imágenes que incluyes forman parte del estado a partir del cual se toma la decisión.

Los usos prácticos se derivan de esa forma. En cualquier lugar donde tengas una situación que pueda describirse con texto e imágenes y un conjunto de respuestas candidatas, d1-ultra puede elegir una. Eso cubre tareas de clasificación y enrutamiento, triaje de solicitudes o tickets entrantes, selección de una acción de un conjunto fijo de opciones, y evaluación de entradas visuales como capturas de pantalla o fotos frente a una pregunta que proporciones. También encaja en pipelines donde un paso posterior necesita una única decisión en lugar de un párrafo de explicación, ya que la salida es una decisión y no texto de forma libre.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo "liquid/d1-ultra". Como el endpoint sigue el formato de solicitud de OpenAI, puedes usar tus bibliotecas cliente de OpenAI existentes y apuntarlas a api14. El modelo no lista parámetros admitidos, así que planea enviar el id de modelo y tu entrada, y no cuentes con que se acepten controles de muestreo como temperature o top_p. Consulta la tabla de precios en vivo en esta página para conocer las tarifas actuales antes de comprometerte con un pipeline de alto volumen.

Un límite a tener en cuenta es la ventana de contexto de 32,768 tokens, que tiene que contener tanto tu texto como las imágenes que incluyas, así que los estados muy grandes tendrán que recortarse o dividirse. La salida es una decisión, así que si necesitas prosa generada, resúmenes o explicaciones, un modelo de generación de texto encajará mejor. Tampoco hay una superficie de parámetros que ajustar, así que si tu aplicación depende de controlar la aleatoriedad o la longitud mediante parámetros de solicitud, este modelo no te dará esa palanca.