Inception: Mercury Decide

Inception: Mercury Decide to ustrukturyzowany model decyzyjny od Inception. To nie jest model czatu ogólnego przeznaczenia, lecz jest zbudowany wokół konkretnego zadania: przyjmuje stan, który podajesz, wraz z typowanymi pytaniami i zwraca decyzję. Jest udostępniany jako endpoint System One, który opisuje styl wnioskowania stosowany przez Inception dla tego modelu. Jeśli Twoja aplikacja potrzebuje odpowiedzi w formie wyboru, wyniku punktowego lub tak/nie, a nie akapitu prozy, to jest właśnie kategoria modelu, do której należy.

Po stronie wejścia Mercury Decide przyjmuje tekst. Stan, który wysyłasz, i pytania, które do niego dołączasz, są tekstem, a pytania są typowane, co oznacza, że każde pytanie niesie ze sobą oczekiwaną formę odpowiedzi. Wyjściem jest decyzja, a nie dowolny tekst, dopasowana do dostarczonych typowanych pytań. Okno kontekstu wynosi 65 536 tokenów, a maksymalne wyjście to 58 982 tokeny, więc długie stany i wiele pytań mieszczą się w jednym żądaniu.

Praktyczne zastosowania wynikają wprost z tego kształtu. Wszędzie tam, gdzie w przeciwnym razie napisałbyś logikę reguł lub klasyfikator, aby wybrać między opcjami, ocenić element punktowo lub odpowiedzieć na pytanie tak/nie dotyczące tekstu, Mercury Decide może wygenerować tę decyzję na podstawie stanu opisanego w żądaniu. Przykłady obejmują decyzje o routingu lub triażu, bramkowanie kroków w potoku, gdzie wynik logiczny wystarcza, oraz ocenianie kandydatów według kryteriów. Ponieważ wyjście jest już decyzją, unikasz parsowania dowolnego tekstu i możesz przekazać wynik bezpośrednio do następnego etapu swojego systemu.

Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu "inception/mercury-decide". Ponieważ API jest zgodne z OpenAI, istniejące biblioteki klienckie i narzędzia OpenAI działają po zmianie bazowego adresu URL. Zwróć uwagę, że ten model nie wymienia żadnych obsługiwanych parametrów, więc nie zakładaj, że kontrolki próbkowania takie jak temperature lub top_p będą akceptowane; wyślij stan i typowane pytania w żądaniu, a decyzję odczytaj z odpowiedzi. Aktualne stawki sprawdź w tabeli cen na tej stronie.

Jedna rzecz do rozważenia przed wdrożeniem: model przyjmuje tekst, a zwraca decyzje. Nie jest właściwym wyborem, gdy potrzebujesz generowanej prozy, streszczeń, tłumaczeń lub innego dowolnego tekstu, i nie jest multimodalny, więc obrazy, dźwięk i podobne dane wejściowe są poza jego zakresem. Jeśli Twoim zadaniem jest tworzenie treści pisanej, a nie rozstrzyganie typowanego pytania, lepiej posłuży Ci model ogólnego generowania tekstu.