TheDrummer: UnslopNemo 12B

TheDrummer: UnslopNemo 12B är en textmodell från TheDrummer, skaparen av Rocinante. Den släpptes av leverantören 2024-11-08, och leverantörens beskrivning ramar in den som UnslopNemo v4.1, det senaste tillskottet i den serien, utformad för äventyrsförfattande och rollspelsscenarier. Den tillhör textkategorin, så den är inriktad på språkarbete snarare än bilder, ljud eller andra modaliteter.

På indatasidan accepterar modellen endast text, och den producerar endast text. Dess kontextfönster är 1 024 000 tokens, vilket är ovanligt stort och låter dig behålla långa manus, utökade chatthistoriker eller stora referensdokument i en enda begäran. Den maximala utdatan är 819 200 tokens, så långa genereringar är möjliga inom det fönstret. Dess kunskapsgräns är 2024-04-30, vilket spelar roll om din uppgift beror på händelser efter det datumet. Parametrar som stöds i begäranden inkluderar frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, top_k, top_logprobs och top_p.

Det angivna fokuset på äventyrsförfattande och rollspel antyder var den här modellen passar bäst. Interaktiv fiktion och textäventyr är en naturlig matchning, eftersom modellen kan driva ett långt scenario framåt och svara i roll. Rollspelschatt, inklusive beständiga karaktärer med omfattande bakgrundshistoria, drar nytta av det stora kontextfönstret eftersom du kan behålla tidigare turer och anteckningar om miljön i prompten. Längre kreativt skrivande, som följetonger eller kampanjmaterial, är en annan rimlig användning. Samplingsparametrarna ger dig kontroll över ton och upprepning, vilket hjälper när en karaktärs eller berättares röst behöver förbli konsekvent under en lång session. Strukturerade utdata och logprobs är tillgängliga om du vill ha maskinläsbara svar eller vill granska hur säker modellen var vid varje steg.

Du anropar modellen via api14:s OpenAI-kompatibla API med modell-id:t "thedrummer/unslopnemo-12b". Eftersom gränssnittet följer formen för OpenAI chat completions kan du peka en befintlig OpenAI-klient mot api14:s bas-URL och skicka det id:t i modellfältet. Parametrarna för begäranden som listas ovan stöds, så du kan ställa in temperature, top_p, top_k, repetition_penalty, presence_penalty, frequency_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs och structured_outputs efter behov. Parametern seed är användbar när du vill ha reproducerbar sampling under testning.

Ha kunskapsgränsen i åtanke: allt efter 2024-04-30 ligger utanför vad modellen har lärt sig, så uppgifter som beror på färsk information kan behöva ett annat tillvägagångssätt. Modellen är endast för text, så om din applikation behöver hantera bilder eller ljud skulle en annan modell passa bättre. För textgenerering, rollspel och långkontextskrivande är den ett enkelt alternativ att prova.