Nace.AI: Drex v2.0

Nace.AI: Drex v2.0 to model decyzyjny od Nace.AI i wiekszy nastepca Drex v1.5. Zostal zbudowany jako model typu mixture-of-experts o 35B parametrach z 3B aktywnych parametrow i nalezy do kategorii decyzji, a nie do kategorii ogolnego czatu. Jesli go oceniasz, wazne jest to, ze nie jest generatorem tekstu w zwyklym sensie: jest zaprojektowany do przyjmowania opisanego stanu i zwracania odpowiedzi na konkretne pytania o niego.

Model przyjmuje dane wejsciowe tekstowe, w tym JSON, i zwraca decyzje jako dane wyjsciowe. Dostawca opisuje zamierzony wzorzec jako przekazanie modelowi stanu (tekst lub JSON) oraz typowanych pytan, takich jak tak/nie lub wielokrotny wybor, i otrzymanie odpowiadajacych im odpowiedzi. Okno kontekstu wynosi 131072 tokenow, a maksymalne dane wyjsciowe to 117964 tokenow. Poniewaz modalnoscia wyjsciowa sa decyzje, a nie swobodna proza, nalezy oczekiwac ustrukturyzowanych odpowiedzi na zadane pytania, a nie eseju czy odpowiedzi czatowej.

Taki ksztalt wskazuje na dosc konkretny zestaw zastosowan. Wszędzie tam, gdzie masz stan, ktory mozna zserializowac jako tekst lub JSON, oraz zestaw odrebnych pytan o niego, Drex v2.0 jest kandydatem: decyzje triage i routingu, klasyfikacja do stalego zestawu opcji, kontrole bramkujace tak/nie lub wybor wielokrotny sposrod zdefiniowanej przestrzeni odpowiedzi. Duze okno kontekstu oznacza, ze przekazywany stan moze byc dlugi, wiec pytania moga byc oparte na obszernym zbiorze danych wejsciowych, a nie na krotkim fragmencie. Jest mniej oczywiscie dopasowany do zadan, w ktorych chcesz generowanej prozy, streszczania lub otwartej rozmowy, poniewaz nie obejmuje ich jego modalnosc wyjsciowa.

Wywołujesz go przez API zgodne z OpenAI w api14, uzywajac identyfikatora modelu "nace-ai/drex-v2.0". Poniewaz API jest zgodne z OpenAI, mozesz skierowac istniejacego klienta OpenAI na api14 i wysylac zadania w zwyklym formacie chat completions, z polem model ustawionym na ten identyfikator. Nalezy zauwazyc, ze model nie wymienia zadnych obslugiwanych parametrow, wiec nie zakladaj, ze regulatory takie jak temperature lub top_p sa akceptowane; wyslij stan wejsciowy i typowane pytania i polegaj na wartosciach domyslnych. Tabela cen na tej stronie obejmuje koszt zadania.

Jesli chodzi o ograniczenia, fakty tutaj sa waskie. Model przyjmuje tekst i zwraca decyzje, wiec jesli twoje zadanie wymaga danych wejsciowych obrazu lub audio albo generowanego tekstu jako danych wyjsciowych, inny model bedzie lepszy. Podobnie, poniewaz nie wymieniono zadnych obslugiwanych parametrow, jesli twoj potok zalezy od dostrajania zachowania probkowania, sprawdz to przed wdrozeniem. W tych granicach Drex v2.0 jest wycelowany prosto w ustrukturyzowane zadania decyzyjne na dlugich stanach tekstowych lub JSON.