Inception: Mercury Decide (free)

Inception: Mercury Decide (free) to ustrukturyzowany model decyzyjny od Inception, opublikowany pod identyfikatorem modelu inception/mercury-decide:free. Należy do kategorii decisions, a nie do ogólnej kategorii chat, co mówi, do czego służy: jest zbudowany do odpowiadania na konkretne, dobrze sformułowane pytania, a nie do prowadzenia otwartej rozmowy. Inception udostępnia go jako endpoint System One, nazwa ta sygnalizuje szybkie, bezpośrednie odpowiedzi tego rodzaju, których użyłbyś wewnątrz większego potoku, a nie na czele produktu czatowego.

Model przyjmuje tekst jako jedyne wejście i zwraca decyzje jako wyjście. Według Inception wysyłasz stan wraz z typowanymi pytaniami, a on zwraca wybór, wynik lub odpowiedź tak/nie. Ten kształt wyjścia jest cechą definiującą: zamiast swobodnej prozy otrzymujesz ustrukturyzowany wynik, na którym możesz rozgałęziać się w kodzie. Okno kontekstu wynosi 65536 tokenów, a maksymalne wyjście to 58982 tokeny. Nie obsługuje żadnych parametrów żądania poza podstawami samego wywołania, więc nie ma temperatury, top_p ani podobnego pokrętła do dostrajania.

Praktyczne zastosowania wynikają bezpośrednio z tego projektu. Wszędzie tam, gdzie Twoja aplikacja musi dokonać powtarzalnego osądu na podstawie dostarczonego kontekstu, Mercury Decide jest kandydatem: decyzje o routingu lub triage, ocenianie elementu według kryteriów opisanych w stanie albo odpowiadanie na pytania tak/nie dotyczące tekstu. Ponieważ wejściem jest tekst, a wyjściem decyzja, pasuje naturalnie jako krok wewnątrz pętli agenta, etap moderacji lub klasyfikacji albo przepływ pracy, w którym późniejszy komponent konsumuje wybór lub wynik. Duże okno kontekstu oznacza, że możesz zawrzeć w stanie znaczny materiał pomocniczy bez dzielenia go między wywołania.

Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu inception/mercury-decide:free, więc istniejące zestawy SDK i klienty OpenAI działają po zmianie jedynie bazowego adresu URL i klucza. Ponieważ model nie wymienia żadnych obsługiwanych parametrów, utrzymuj żądanie minimalne: identyfikator modelu, Twoje wiadomości zawierające stan i typowane pytania, i nic więcej. Nie zakładaj, że kontrolki próbkowania będą respektowane, i traktuj odpowiedź jako ładunek decyzji, a nie tekst konwersacyjny.

Jedna rzecz do rozważenia to oznaczenie free i brak parametrów do dostrajania. Jeśli Twoje zadanie wymaga kreatywnego pisania, otwartego dialogu lub precyzyjnej kontroli nad zachowaniem próbkowania, model czatu ogólnego przeznaczenia będzie pasować lepiej. Mercury Decide jest najsilniejszy, gdy pytanie jest wąskie, odpowiedź jest dyskretna, a Ty chcesz, aby ta odpowiedź została zwrócona w formie, na której Twój kod może działać bezpośrednio.