Mancer: Weaver (alpha)

Mancer: Weaver (alpha) to model generowania tekstu od Mancer, udostępniony przez dostawcę 2023-08-02. Mancer opisuje go jako próbę odtworzenia gadatliwości w stylu Claude, z wyraźnym zastrzeżeniem, że nie należy oczekiwać takiego samego poziomu spójności ani pamięci. Jest przeznaczony do użycia w sytuacjach odgrywania ról i narracyjnych, więc jest pozycjonowany jako model kreatywnego pisania, a nie uniwersalny asystent.

Model przyjmuje dane wejściowe w formie tekstu i zwraca dane wyjściowe w formie tekstu, więc jest to zwykły model językowy bez obsługi obrazu ani dźwięku. Ma okno kontekstu wynoszące 8000 tokenów i może wygenerować do 6000 tokenów w jednej odpowiedzi. Jego data odcięcia wiedzy to 2023-06-30, co ma znaczenie, jeśli Twoje prompty zależą od zdarzeń lub informacji z daty późniejszej. W tych granicach połączenie umiarkowanego okna kontekstu i dużego maksymalnego wyniku czyni go odpowiednim do generowania długich, ciągłych fragmentów, a nie krótkich odpowiedzi.

Ponieważ dostawca opisuje Weaver wokół gadatliwości i narracji, naturalnymi zastosowaniami są interaktywna fikcja, czat oparty na postaciach, pisanie scen i inne zadania w stylu odgrywania ról, gdzie płynny, rozmowny głos jest atutem. Wysoki limit wyniku pomaga, gdy chcesz, aby model poprowadził scenę dalej bez wczesnego zatrzymywania się, a kontekst 8000 tokenów daje miejsce na prompt systemowy, opis postaci i kilka tur wcześniejszego dialogu. Jest mniej oczywistym wyborem do zadań wymagających ścisłego przywoływania faktów lub rygorystycznego stosowania się do instrukcji, ponieważ sam dostawca ostrzega przed kwestiami spójności i pamięci.

Możesz wywołać model przez API zgodne z OpenAI w api14, używając identyfikatora modelu "mancer/weaver". Obsługiwane parametry żądania to frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, temperature, top_a, top_k, top_logprobs i top_p. Ten zestaw obejmuje zwykłe kontrolki próbkowania oraz repetition_penalty, min_p i top_a, co daje kilka sposobów na kierowanie modelu z dala od pętli lub w stronę bardziej zróżnicowanej prozy. Parametr seed jest dostępny, jeśli potrzebujesz powtarzalnego próbkowania, a logprobs z top_logprobs pozwalają sprawdzić pewność na poziomie tokenów.

Główne ograniczenia do zapamiętania to kontekst 8000 tokenów, limit wyniku 6000 tokenów i data odcięcia wiedzy 2023-06-30. Opis samego dostawcy również ustala oczekiwania: to model alpha ukierunkowany na odgrywanie ról i narrację i może nie utrzymywać spójności ani pamięci tak dobrze, jak styl, który imituje. Jeśli Twoje obciążenie zależy od długich rozmów, niedawnych informacji lub precyzyjnego rozumowania, model zbudowany pod te mocne strony prawdopodobnie posłużyłby Ci lepiej. Jeśli chcesz rozmowny generator tekstu zorientowany na sceny za punktem końcowym zgodnym z OpenAI, Weaver jest rozsądnym kandydatem do przetestowania.