LiquidAI: d1-ultra

LiquidAI: d1-ultra é um modelo da LiquidAI, e é o maior modelo de decisão que o fornecedor oferece. Situa-se na categoria de decisões em vez da categoria de chat geral, o que indica para que serve: em vez de produzir prosa conversacional, é construído para devolver uma escolha. É servido como um endpoint System One, por isso deve pensá-lo como um componente que chama para tomar uma decisão dentro de um sistema maior, não como um assistente com quem conversa.

O modelo aceita texto e imagens como entrada, e a sua modalidade de saída é decisões. Envia um estado composto por texto e imagens juntamente com perguntas tipadas, e ele devolve uma escolha. A janela de contexto é de 32,768 tokens, e a saída máxima é de 29,491 tokens. Como as entradas são perguntas tipadas sobre um estado, o modelo é concebido em torno de chamadas estruturadas em vez de prompting aberto, e as imagens que inclui fazem parte do estado a partir do qual a decisão é tomada.

Os usos práticos decorrem dessa forma. Em qualquer situação que possa ser descrita em texto e imagens e um conjunto de respostas candidatas, o d1-ultra pode escolher uma. Isso abrange tarefas de classificação e encaminhamento, triagem de pedidos ou tickets recebidos, seleção de uma ação a partir de um conjunto fixo de opções, e avaliação de entrada visual como capturas de ecrã ou fotografias face a uma pergunta que forneça. Também se adequa a pipelines em que um passo posterior necessita de uma única decisão em vez de um parágrafo de explicação, uma vez que a saída é uma decisão e não texto de forma livre.

Chama-o através da API compatível com OpenAI da api14 usando o id de modelo "liquid/d1-ultra". Como o endpoint segue o formato de pedido da OpenAI, pode usar as suas bibliotecas de cliente OpenAI existentes e apontá-las para a api14. O modelo não lista parâmetros suportados, por isso conte com o envio do id de modelo e da sua entrada, e não conte com controlos de amostragem como temperature ou top_p a serem aceites. Consulte a tabela de preços em direto nesta página para tarifas atuais antes de se comprometer com um pipeline de grande volume.

Um limite a ter em conta é a janela de contexto de 32,768 tokens, que tem de conter tanto o seu texto como quaisquer imagens que inclua, por isso estados muito grandes terão de ser reduzidos ou divididos. A saída é uma decisão, por isso se precisar de prosa gerada, resumos ou explicações, um modelo de geração de texto encaixará melhor. Também não há uma superfície de parâmetros para ajustar, por isso se a sua aplicação depende de controlar a aleatoriedade ou o comprimento através de parâmetros de pedido, este modelo não lhe dará essa alavanca.