LiquidAI: d1-ultra

LiquidAI: d1-ultra to model od LiquidAI i jest największym modelem decyzyjnym oferowanym przez tego dostawcę. Należy do kategorii decyzji, a nie do kategorii ogólnego czatu, co mówi, do czego służy: zamiast tworzyć konwersacyjną prozę, jest zbudowany do zwracania wyboru. Jest udostępniany jako endpoint System One, więc należy myśleć o nim jako o komponencie, który wywołujesz, aby podjąć decyzję w większym systemie, a nie jako o asystencie, z którym rozmawiasz.

Model przyjmuje tekst i obrazy jako dane wejściowe, a jego modalnością wyjściową są decyzje. Wysyłasz stan złożony z tekstu i obrazów razem z pytaniami z typami, a on zwraca wybór. Okno kontekstu wynosi 32,768 tokenów, a maksymalne wyjście to 29,491 tokenów. Ponieważ dane wejściowe to pytania z typami dotyczące stanu, model jest zaprojektowany wokół wywołań strukturalnych, a nie otwartego promptowania, a dołączane obrazy stanowią część stanu, na podstawie którego podejmowana jest decyzja.

Praktyczne zastosowania wynikają z tego kształtu. Wszędzie tam, gdzie masz sytuację, którą można opisać tekstem i obrazami, oraz zestaw możliwych odpowiedzi, d1-ultra może wybrać jedną. Obejmuje to zadania klasyfikacji i routingu, triage przychodzących żądań lub zgłoszeń, wybór działania ze stałego zestawu opcji oraz ocenę danych wizualnych, takich jak zrzuty ekranu lub zdjęcia, względem dostarczonego pytania. Nadaje się również do potoków, w których późniejszy krok potrzebuje pojedynczej decyzji, a nie akapitu wyjaśnienia, ponieważ wyjściem jest decyzja, a nie dowolny tekst.

Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu "liquid/d1-ultra". Ponieważ endpoint jest zgodny z formatem żądań OpenAI, możesz użyć istniejących bibliotek klienta OpenAI i skierować je na api14. Model nie wymienia żadnych obsługiwanych parametrów, więc planuj wysyłanie identyfikatora modelu i danych wejściowych, i nie polegaj na tym, że kontrolki próbkowania, takie jak temperature lub top_p, będą akceptowane. Sprawdź bieżącą tabelę cen na tej stronie, aby poznać aktualne stawki, zanim zdecydujesz się na potok o dużym wolumenie.

Jednym ograniczeniem, o którym warto pamiętać, jest okno kontekstu wynoszące 32,768 tokenów, które musi pomieścić zarówno tekst, jak i wszelkie dołączone obrazy, więc bardzo duże stany będą wymagały przycięcia lub podziału. Wyjściem jest decyzja, więc jeśli potrzebujesz generowanej prozy, podsumowań lub wyjaśnień, lepiej pasować będzie model generowania tekstu. Nie ma też powierzchni parametrów do dostrajania, więc jeśli Twoja aplikacja zależy od kontrolowania losowości lub długości przez parametry żądania, ten model nie da Ci takiej dźwigni.