LiquidAI: d1-ultra

LiquidAI: d1-ultra ist ein Modell von LiquidAI und es ist das größte Entscheidungsmodell, das der Anbieter anbietet. Es liegt in der Kategorie decisions statt in der allgemeinen Chat-Kategorie, was zeigt, wofür es gedacht ist: Statt konversationelle Prosa zu erzeugen, ist es darauf ausgelegt, eine Auswahl zurückzugeben. Es wird als System One Endpoint bereitgestellt, daher sollten Sie es als eine Komponente betrachten, die Sie aufrufen, um innerhalb eines größeren Systems eine Entscheidung zu treffen, nicht als einen Assistenten, mit dem Sie sprechen.

Das Modell akzeptiert Text und Bilder als Eingabe, und seine Ausgabemodalität ist decisions. Sie senden einen Zustand, der aus Text und Bildern zusammen mit typisierten Fragen besteht, und es gibt eine Auswahl zurück. Das Kontextfenster beträgt 32,768 Tokens, und die maximale Ausgabe beträgt 29,491 Tokens. Da die Eingaben typisierte Fragen über einen Zustand sind, ist das Modell auf strukturierte Aufrufe statt auf offenes Prompting ausgelegt, und die Bilder, die Sie einbeziehen, bilden einen Teil des Zustands, aus dem die Entscheidung getroffen wird.

Die praktischen Anwendungen ergeben sich aus dieser Form. Überall dort, wo Sie eine Situation haben, die in Text und Bildern beschrieben werden kann, und eine Menge von Kandidatenantworten, kann d1-ultra eine auswählen. Das deckt Klassifizierungs- und Routing-Aufgaben ab, die Triage eingehender Anfragen oder Tickets, die Auswahl einer Aktion aus einer festen Menge von Optionen und die Beurteilung visueller Eingaben wie Screenshots oder Fotos anhand einer von Ihnen gestellten Frage. Es eignet sich auch für Pipelines, bei denen ein späterer Schritt eine einzelne Entscheidung statt eines Absatzes mit Erklärung benötigt, da die Ausgabe eine Entscheidung und kein freier Text ist.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID "liquid/d1-ultra" auf. Da der Endpoint dem OpenAI-Anfrageformat folgt, können Sie Ihre vorhandenen OpenAI-Client-Bibliotheken verwenden und sie auf api14 richten. Das Modell listet keine unterstützten Parameter auf, planen Sie also damit, die Modell-ID und Ihre Eingabe zu senden, und verlassen Sie sich nicht darauf, dass Sampling-Steuerungen wie temperature oder top_p akzeptiert werden. Prüfen Sie die aktuelle Preistabelle auf dieser Seite auf die derzeitigen Tarife, bevor Sie sich auf eine Pipeline mit hohem Volumen festlegen.

Eine Einschränkung, die Sie beachten sollten, ist das Kontextfenster von 32,768 Tokens, das sowohl Ihren Text als auch alle Bilder, die Sie einbeziehen, aufnehmen muss, sodass sehr große Zustände gekürzt oder aufgeteilt werden müssen. Die Ausgabe ist eine Entscheidung, wenn Sie also generierte Prosa, Zusammenfassungen oder Erklärungen benötigen, passt ein Textgenerierungsmodell besser. Es gibt außerdem keine Parameteroberfläche zum Abstimmen, wenn Ihre Anwendung also davon abhängt, Zufälligkeit oder Länge über Anfrageparameter zu steuern, wird dieses Modell Ihnen diesen Hebel nicht bieten.