Mistral: Mistral Nemo

Mistral Nemo är en textmodell från Mistral, byggd i samarbete med NVIDIA. Det är en modell med 12B parametrar, och dess utgivningsdatum hos leverantören var 19 juli 2024. Modellen är flerspråkig och stöder engelska, franska, tyska, spanska, italienska, portugisiska, kinesiska, japanska och andra språk. Om du väljer en modell för ett projekt ligger denna i Mistrals mindre, effektiva skikt snarare än bland de största flaggskeppsmodellerna.

Modellen tar text som indata och returnerar text som utdata, så det är en enkel språkmodell utan hantering av bilder eller ljud. Dess kontextfönster är 131072 tokens, vilket är tillräckligt stort för att rymma långa dokument, utökade konversationer eller stora kodfiler i en enda begäran. Maximal utdata är 16384 tokens, så svaren kan vara långa men är begränsade långt under indatagränsen. Dess kunskapsgräns är 30 april 2024, vilket spelar roll om din uppgift är beroende av händelser eller information efter det datumet.

Dessa förmågor pekar mot några praktiska användningsområden. Den långa kontexten passar för att sammanfatta eller extrahera information från långa rapporter, avtal och utskrifter, och det flerspråkiga stödet hjälper till med översättning och med applikationer som betjänar användare på flera språk. Eftersom modellen endast tar emot och returnerar text passar den för chattassistenter, frågebesvarande över medföljande dokument, utformning och omskrivning, klassificering och andra texttransformationsuppgifter. Taket på 16384 tokens för utdata innebär att mycket långa genererade dokument kan behöva produceras i flera omgångar.

Du kan anropa modellen via api14:s OpenAI-kompatibla API med modell-id:t "mistralai/mistral-nemo". De stödda begärandeparametrarna är frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs och top_p. Den uppsättningen täcker samplingskontroller, deterministisk seedning, stoppsekvenser, strukturerade utdata och verktygsanrop, så du kan forma både stilen på utdata och dess format utan att lämna det standardiserade gränssnittet.

Några begränsningar är värda att ha i åtanke. Indata och utdata är endast text, så uppgifter som kräver analys av bilder eller ljud behöver en annan modell. Kunskapsgränsen på 30 april 2024 innebär att modellen inte har någon inbyggd kännedom om senare händelser, och taket på 16384 tokens för utdata begränsar längden på ett enskilt svar. Om din arbetsbelastning är beroende av något av detta kan en annan modell passa bättre.