LiquidAI: d1-ultra

LiquidAI: d1-ultra is een model van LiquidAI, en het is het grootste beslissingsmodel dat de provider aanbiedt. Het valt in de categorie decisions in plaats van de algemene chatcategorie, wat aangeeft waarvoor het bedoeld is: in plaats van conversationele prose te produceren, is het gebouwd om een keuze terug te geven. Het wordt aangeboden als een System One endpoint, dus je moet het zien als een component die je aanroept om een beslissing te nemen binnen een groter systeem, niet als een assistent waarmee je praat.

Het model accepteert tekst en afbeeldingen als invoer, en de uitvoermodaliteit is decisions. Je stuurt een toestand bestaande uit tekst en afbeeldingen samen met getypte vragen, en het retourneert een keuze. Het contextvenster is 32.768 tokens, en de maximale uitvoer is 29.491 tokens. Omdat de invoer bestaat uit getypte vragen over een toestand, is het model ontworpen rond gestructureerde aanroepen in plaats van open prompting, en de afbeeldingen die je opneemt vormen deel van de toestand waarop de beslissing wordt gebaseerd.

De praktische toepassingen volgen uit die vorm. Overal waar je een situatie hebt die kan worden beschreven in tekst en afbeeldingen en een reeks kandidaat-antwoorden, kan d1-ultra er een kiezen. Dat dekt classificatie- en routingtaken, triage van binnenkomende verzoeken of tickets, het selecteren van een actie uit een vaste reeks opties, en het beoordelen van visuele invoer zoals screenshots of foto's tegen een vraag die je opgeeft. Het is ook geschikt voor pipelines waarin een latere stap een enkele beslissing nodig heeft in plaats van een alinea uitleg, aangezien de uitvoer een beslissing is en geen vrije tekst.

Je roept het aan via de OpenAI-compatibele API van api14 met het model-id "liquid/d1-ultra". Omdat het endpoint het OpenAI-aanvraagformaat volgt, kun je je bestaande OpenAI-clientbibliotheken gebruiken en deze op api14 richten. Het model vermeldt geen ondersteunde parameters, dus reken erop dat je het model-id en je invoer verstuurt, en vertrouw er niet op dat sampling-besturingen zoals temperature of top_p worden geaccepteerd. Controleer de actuele prijstabel op deze pagina voor de huidige tarieven voordat je je vastlegt op een pipeline met hoog volume.

Een beperking om in gedachten te houden is het contextvenster van 32.768 tokens, dat zowel je tekst als eventuele afbeeldingen die je opneemt moet bevatten, dus zeer grote toestanden moeten worden ingekort of opgesplitst. De uitvoer is een beslissing, dus als je gegenereerde prose, samenvattingen of uitleg nodig hebt, past een tekstgeneratiemodel beter. Er is ook geen parameteroppervlak om af te stemmen, dus als je applicatie afhankelijk is van het beheersen van willekeurigheid of lengte via aanvraagparameters, zal dit model je die hefboom niet geven.