MythoMax 13B

MythoMax 13B är en textmodell från Gryphe, identifierad på api14 som gryphe/mythomax-l2-13b. Den är en finjustering av Llama 2 13B, framställd genom sammanslagning snarare än genom en enda träningskörning, och Gryphe beskriver den som en av de mest högpresterande och populäraste finjusteringarna av den basmodellen. Den tillhör textkategorin, så den är byggd för språkarbete snarare än för bilder, ljud eller andra modaliteter.

Modellen tar text som indata och returnerar text som utdata. Den har ett kontextfönster på 8192 tokens, vilket rymmer en ganska lång prompt plus det genererade svaret, och dess maximala utdata är 3686 tokens. Dess kunskapsgräns är 30 juni 2023, så allt efter det datumet ligger utanför vad den lärde sig under träningen. Gryphe lyfter fram rika beskrivningar och rollspel som särskilda styrkor hos denna finjustering, vilket är en användbar signal om vilken typ av prosa den tenderar att producera.

Dessa egenskaper pekar mot en ganska specifik uppsättning användningsområden. Styrkorna inom rollspel och rika beskrivningar gör den naturligt lämpad för interaktiv fiktion, karaktärsdriven chatt och narrativ eller dialoggenerering där ton och detaljrikedom spelar roll. Kontextfönstret på 8192 tokens låter dig hålla en lång pågående konversation eller en omfattande scen i vy utan att ständigt trimma, och taket på 3686 tokens i utdata stödjer svar som sträcker sig över flera stycken. Utöver kreativt skrivande fungerar den för allmän textgenerering och chattliknande assistenter, även om kunskapsgränsen innebär att du inte bör förlita dig på den för frågor om händelser efter juni 2023.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t gryphe/mythomax-l2-13b, så befintliga OpenAI-klientbibliotek och förfrågningsformat fungerar med bara modellnamnet ändrat. De stödda förfrågningsparametrarna är frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_a, top_k, top_logprobs och top_p. Det är en bred yta för sampling och kontroll: de vanliga inställningarna temperature, top_p, top_k och straff, plus min_p, top_a och repetition_penalty, som är vanliga i community-arbetsflöden för finjusteringar. Seed ger dig reproducerbar sampling, stoppsekvenser låter dig avbryta genereringen vid en vald sträng, och logprobs med top_logprobs exponerar sannolikheter på token-nivå. response_format och structured_outputs är tillgängliga om du behöver få utdata formad på ett visst sätt.

De främsta begränsningarna att ha i åtanke är kontextfönstret på 8192 tokens och taket på 3686 tokens i utdata, tillsammans med kunskapsgränsen i juni 2023. Om din uppgift behöver ett mycket större kontextfönster, mer aktuell kunskap eller icke-textindata passar en annan modell på api14 bättre. För kreativt skrivande, karaktärschatt och allmän textgenerering inom dessa gränser är denna modell ett rimligt val.