Mancer: Weaver (alpha)

Mancer: Weaver (alpha) är en textgenereringsmodell från Mancer, släppt av leverantören 2023-08-02. Mancer beskriver den som ett försök att återskapa Claude-liknande mångordighet, med den uttryckliga varningen att du inte bör förvänta dig samma nivå av sammanhang eller minne. Den är avsedd för användning i rollspel och narrativa situationer, så den positioneras som en modell för kreativt skrivande snarare än en allmän assistent.

Modellen tar emot textinmatning och returnerar textutdata, så det är en vanlig språkmodell utan bild- eller ljudhantering. Den har ett kontextfönster på 8000 tokens och kan producera upp till 6000 tokens i ett enda svar. Dess kunskapsgräns är 2023-06-30, vilket spelar roll om dina prompter är beroende av händelser eller information från efter det datumet. Inom dessa gränser gör kombinationen av ett måttligt kontextfönster och en stor maximal utdata den lämplig för att generera långa, sammanhängande stycken snarare än korta svar.

Eftersom leverantören ramar in Weaver kring mångordighet och narrativ är de naturliga användningsområdena interaktiv fiktion, karaktärsdriven chatt, scen skrivande och andra rollspelsliknande uppgifter där en flödande, pratsam röst är en tillgång. Det höga utdatataket hjälper när du vill att en modell ska föra en scen framåt utan att stanna tidigt, och kontexten på 8000 tokens ger dig utrymme för en systemprompt, karaktärsbeskrivning och flera turer av tidigare dialog. Det är mindre uppenbart lämpligt för uppgifter som kräver noggrann faktatering eller strikt instruktionsföljning, eftersom leverantören själv varnar för sammanhang och minne.

Du kan anropa modellen via api14's OpenAI-kompatibla API med modell-id "mancer/weaver". De stödda begärandeparametrarna är frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, temperature, top_a, top_k, top_logprobs och top_p. Den uppsättningen täcker de vanliga samplingskontrollerna plus repetition_penalty, min_p och top_a, vilket ger dig flera sätt att styra modellen bort från loopar eller mot mer varierad prosa. Parametern seed är tillgänglig om du behöver reproducerbar sampling, och logprobs med top_logprobs låter dig inspektera konfidens på token-nivå.

De främsta begränsningarna att ha i åtanke är kontexten på 8000 tokens, utdatataket på 6000 tokens och kunskapsgränsen 2023-06-30. Leverantörens egen beskrivning sätter också förväntningarna: detta är en alpha-modell inriktad på rollspel och narrativ, och den kanske inte håller sammanhang eller minne lika bra som stilen den imiterar. Om din arbetsbelastning är beroende av långa konversationer, färsk information eller exakt resonemang skulle en modell byggd för dessa styrkor troligen passa dig bättre. Om du vill ha en pratsam, scenorienterad textgenerator bakom en OpenAI-kompatibel endpoint är Weaver en rimlig kandidat att testa.