์ฟ ํค๋ฅผ ์ฌ์ฉํฉ๋๋ค. ์ฟ ํค์ ๋ธ๋ผ์ฐ์ ์ ์ฅ์๋ ๋ก๊ทธ์ธ ์ํ๋ฅผ ์ ์งํ๊ณ ํ๊ฒฝ์ค์ ์ ๊ธฐ์ตํฉ๋๋ค. ๋์ํ์๋ฉด ์ฌ์ดํธ ์ด์ฉ ๋ฐฉ์๋ ์ธก์ ํฉ๋๋ค. ์ธ์ ๋ ์ง ํ ์ ์์ต๋๋ค. ์์ธํ ๋ด์ฉ์ ์ฟ ํค ์ ์ฑ ์ ์ฐธ๊ณ ํ์ธ์.
Mistral: Mistral Nemo
mistralai/mistral-nemo์ง๊ธ Mistral: Mistral Nemo ์ฌ์ฉํด ๋ณด๊ธฐ
์ ๊ฐ๊ฒฉ์ผ๋ก ์์ก์์ ์ฐจ๊ฐ๋ฉ๋๋ค. ์ ๊ณ์ ์ ๋ฌด๋ฃ ์ฌ์ฉ๋์ผ๋ก ์์ํฉ๋๋ค.
ํ๋์ API. ๋ชจ๋ ๋ชจ๋ธ.
์ธ์ ๋น์ฉ US$0.00
์ค์
๊ณ ๊ธ ๋งค๊ฐ๋ณ์
Mistral: Mistral Nemo ํ๋์ ๋ณด๊ธฐ
- ์ ๋ ฅ ๊ฐ๊ฒฉ์ด ํ ์คํธ ๋ชจ๋ธ 434๊ฐ์ ์ค์๊ฐ๋ณด๋ค 94% ๋ฎ์ต๋๋ค.
- 131,072 ํ ํฐ์ ์ปจํ ์คํธ ์๋์ฐ, ๊ธด ๋ฌธ์์ ๋ฉํฐํด ๋ํ์ ์ถฉ๋ถํฉ๋๋ค.
- ์์ด์ ํธ์ ํตํฉ์ ์ํ ๋๊ตฌ(ํจ์) ํธ์ถ์ ์ง์ํฉ๋๋ค.
- ์คํค๋ง ๊ธฐ๋ฐ ๊ตฌ์กฐํ๋ JSON ์ถ๋ ฅ์ ์ง์ํฉ๋๋ค.
- ์ผ๋ฐ์ ์ธ ์์ฒญ(์ ๋ ฅ 1,000 / ์ถ๋ ฅ 500 ํ ํฐ)์ ๋น์ฉ์ ์ฝ US$0.000154์ ๋๋ค.
Mistral: Mistral Nemo ์๊ฐ
Mistral Nemo๋ NVIDIA์ ํ๋ ฅํ์ฌ ๋ง๋ Mistral์ ํ ์คํธ ๋ชจ๋ธ์ ๋๋ค. 12B ํ๋ผ๋ฏธํฐ ๋ชจ๋ธ์ด๋ฉฐ, ์ ๊ณต์ ์ฒด ์ถ์์ผ์ 2024๋ 7์ 19์ผ์ ๋๋ค. ์ด ๋ชจ๋ธ์ ๋ค๊ตญ์ด๋ฅผ ์ง์ํ๋ฉฐ ์์ด, ํ๋์ค์ด, ๋ ์ผ์ด, ์คํ์ธ์ด, ์ดํ๋ฆฌ์์ด, ํฌ๋ฅดํฌ๊ฐ์ด, ์ค๊ตญ์ด, ์ผ๋ณธ์ด ๋ฐ ๊ธฐํ ์ธ์ด๋ฅผ ์ง์ํฉ๋๋ค. ํ๋ก์ ํธ์ฉ ๋ชจ๋ธ์ ์ ํํ๋ ๊ฒฝ์ฐ, ์ด ๋ชจ๋ธ์ Mistral ๋ผ์ธ์ ์์ ๊ฐ์ฅ ํฐ ํ๋๊ทธ์ญ ๋ชจ๋ธ์ด ์๋๋ผ ๋ ์๊ณ ํจ์จ์ ์ธ ๊ณ์ธต์ ์ํฉ๋๋ค.
์ด ๋ชจ๋ธ์ ํ ์คํธ๋ฅผ ์ ๋ ฅ์ผ๋ก ๋ฐ๊ณ ํ ์คํธ๋ฅผ ์ถ๋ ฅ์ผ๋ก ๋ฐํํ๋ฏ๋ก ์ด๋ฏธ์ง๋ ์ค๋์ค ์ฒ๋ฆฌ๊ฐ ์๋ ๋จ์ํ ์ธ์ด ๋ชจ๋ธ์ ๋๋ค. ์ปจํ ์คํธ ์๋์ฐ๋ 131072 ํ ํฐ์ผ๋ก, ๋จ์ผ ์์ฒญ์ ๊ธด ๋ฌธ์, ์ฅ์๊ฐ ๋ํ ๋๋ ์๋นํ ํฌ๊ธฐ์ ์ฝ๋ ํ์ผ์ ๋ด์ ์ ์์ ๋งํผ ์ถฉ๋ถํ ํฝ๋๋ค. ์ต๋ ์ถ๋ ฅ์ 16384 ํ ํฐ์ด๋ฏ๋ก ์๋ต์ด ๊ธธ ์ ์์ง๋ง ์ ๋ ฅ ํ๋๋ณด๋ค ํจ์ฌ ๋ฎ๊ฒ ์ ํ๋ฉ๋๋ค. ์ง์ ์ปท์คํ๋ 2024๋ 4์ 30์ผ์ด๋ฉฐ, ์ด๋ ์์ ์ด ํด๋น ๋ ์ง ์ดํ์ ์ฌ๊ฑด์ด๋ ์ ๋ณด์ ์์กดํ๋ ๊ฒฝ์ฐ ์ค์ํฉ๋๋ค.
์ด๋ฌํ ๊ธฐ๋ฅ์ ๋ช ๊ฐ์ง ์ค์ฉ์ ์ธ ์ฉ๋์ ์์ฌํฉ๋๋ค. ๊ธด ์ปจํ ์คํธ๋ ์ฅ๋ฌธ์ ๋ณด๊ณ ์, ๊ณ์ฝ์ ๋ฐ ๋ น์ทจ๋ก์์ ์ ๋ณด๋ฅผ ์์ฝํ๊ฑฐ๋ ์ถ์ถํ๋ ๋ฐ ์ ํฉํ๋ฉฐ, ๋ค๊ตญ์ด ์ง์์ ๋ฒ์ญ๊ณผ ์ฌ๋ฌ ์ธ์ด๋ก ์ฌ์ฉ์์๊ฒ ์๋น์ค๋ฅผ ์ ๊ณตํ๋ ์ ํ๋ฆฌ์ผ์ด์ ์ ๋์์ด ๋ฉ๋๋ค. ์ด ๋ชจ๋ธ์ ํ ์คํธ๋ง ๋ฐ๊ณ ๋ฐํํ๋ฏ๋ก ์ฑํ ์ด์์คํดํธ, ์ ๊ณต๋ ๋ฌธ์์ ๋ํ ์ง์์๋ต, ์ด์ ์์ฑ ๋ฐ ์ฌ์์ฑ, ๋ถ๋ฅ ๋ฐ ๊ธฐํ ํ ์คํธ ๋ณํ ์์ ์ ์ ํฉํฉ๋๋ค. 16384 ํ ํฐ ์ถ๋ ฅ ์ํ์ ๋งค์ฐ ๊ธด ์์ฑ ๋ฌธ์๋ฅผ ์ฌ๋ฌ ๋ฒ์ ๋๋์ด ์์ฑํด์ผ ํ ์ ์์์ ์๋ฏธํฉ๋๋ค.
๋ชจ๋ธ id "mistralai/mistral-nemo"๋ฅผ ์ฌ์ฉํ์ฌ api14์ OpenAI ํธํ API๋ฅผ ํตํด ์ด ๋ชจ๋ธ์ ํธ์ถํ ์ ์์ต๋๋ค. ์ง์๋๋ ์์ฒญ ํ๋ผ๋ฏธํฐ๋ frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs ๋ฐ top_p์ ๋๋ค. ์ด ์งํฉ์ ์ํ๋ง ์ ์ด, ๊ฒฐ์ ๋ก ์ ์๋ฉ, ์ค์ง ์ํ์ค, ๊ตฌ์กฐํ๋ ์ถ๋ ฅ ๋ฐ ๋๊ตฌ ํธ์ถ์ ํฌํจํ๋ฏ๋ก ํ์ค ์ธํฐํ์ด์ค๋ฅผ ๋ฒ์ด๋์ง ์๊ณ ๋ ์ถ๋ ฅ์ ์คํ์ผ๊ณผ ํ์์ ๋ชจ๋ ์กฐ์ ํ ์ ์์ต๋๋ค.
๋ช ๊ฐ์ง ์ ํ์ ์ผ๋์ ๋ ๊ฐ์น๊ฐ ์์ต๋๋ค. ์ ๋ ฅ๊ณผ ์ถ๋ ฅ์ ํ ์คํธ ์ ์ฉ์ด๋ฏ๋ก ์ด๋ฏธ์ง๋ ์ค๋์ค๋ฅผ ๋ถ์ํด์ผ ํ๋ ์์ ์๋ ๋ค๋ฅธ ๋ชจ๋ธ์ด ํ์ํฉ๋๋ค. 2024๋ 4์ 30์ผ์ ์ง์ ์ปท์คํ๋ ๋ชจ๋ธ์ด ์ดํ ์ฌ๊ฑด์ ๋ํ ๋ด์ฅ๋ ์ธ์์ด ์์์ ์๋ฏธํ๋ฉฐ, 16384 ํ ํฐ ์ถ๋ ฅ ์ํ์ ๋จ์ผ ์๋ต ๊ธธ์ด๋ฅผ ์ ํํฉ๋๋ค. ์ํฌ๋ก๋๊ฐ ์ด ์ค ํ๋์ ์์กดํ๋ค๋ฉด ๋ค๋ฅธ ๋ชจ๋ธ์ด ๋ ์ ํฉํ ์ ์์ต๋๋ค.
Mistral: Mistral Nemo API ํธ์ถ ๋ฐฉ๋ฒ
- ๋์๋ณด๋์์ API ํค๋ฅผ ๋ง๋์ธ์.
- ์ฌ์ฉํ๋ ์ธ์ด์ ๊ณต์ openai SDK๋ฅผ ์ค์นํ์ธ์.
- baseURL์ https://api14.com/api/v1๋ก, model์ "mistralai/mistral-nemo"๋ก ์ค์ ํ์ธ์.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "mistralai/mistral-nemo",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
์ง์ ํ๋ผ๋ฏธํฐ
frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p์ฌ์
- ์ปจํ ์คํธ ๊ธธ์ด
- 131,072
- ์ต๋ ์ถ๋ ฅ
- 16,384
- ์ ๋ ฅ
- text
- ์ถ๋ ฅ
- text
- ์ง์ ๊ธฐ์ค์ผ
- 2024-04-30
api14 ์์ฒญ ์ ยท ์ต๊ทผ 7์ผ
Mistral: Mistral Nemo: ์์ฃผ ๋ฌป๋ ์ง๋ฌธ
- Mistral: Mistral Nemo API ๋น์ฉ์ ์ผ๋ง์ธ๊ฐ์?
- Mistral: Mistral Nemo์ ๊ฐ๊ฒฉ์ ์ ๋ ฅ US$0.10 / 100๋ง ํ ํฐ์ ๋๋ค. ์ฑ๊ณตํ ์์ฒญ์ ๋ํด์๋ง USD ์์ก์์ ์ฐจ๊ฐ๋๋ฉฐ, ์คํจํ ์์ฒญ์ ๋ฌด๋ฃ์ ๋๋ค.
- Mistral: Mistral Nemo์ ์ปจํ ์คํธ ์๋์ฐ๋ ์ผ๋ง์ธ๊ฐ์?
- Mistral: Mistral Nemo๋(์) ์์ฒญ๋น ์ต๋ 131,072 ํ ํฐ์ ์ฝ์ต๋๋ค, ํ๋กฌํํธ, ๋ํ ๊ธฐ๋ก, ๋ฌธ์๋ฅผ ๋ชจ๋ ํฉ์น ์์ ๋๋ค. ์๋ต๋น ์ต๋ 16,384๊ฐ์ ์ถ๋ ฅ ํ ํฐ์ ์์ฑํฉ๋๋ค.
- Mistral: Mistral Nemo๋(์) ๋ฌด์์ ํ ์ ์๋์?
- Mistral: Mistral Nemo๋(์) text ์ ๋ ฅ์ ๋ฐ์ text ์ถ๋ ฅ์ ๋ฐํํฉ๋๋ค. ์ง์ ๊ธฐ๋ฅ: ๋๊ตฌ ํธ์ถ, ๊ตฌ์กฐํ๋ JSON ์ถ๋ ฅ.
- ์ฝ๋์์ Mistral: Mistral Nemo๋ฅผ(์) ์ด๋ป๊ฒ ํธ์ถํ๋์?
- ์ด๋ค OpenAI SDK๋ base URL์ https://api14.com/api/v1๋ก ์ง์ ํ๊ณ model์ "mistralai/mistral-nemo"๋ก ์ค์ ํ์ธ์, ๋ค๋ฅธ ์ฝ๋ ๋ณ๊ฒฝ์ ํ์ ์์ต๋๋ค. ์ด ํ์ด์ง์ ์ฝ๋ ํจ๋์์ ๋ฐ๋ก ์ธ ์ ์๋ ์์ ๋ฅผ ๋ณต์ฌํ์ธ์.
- Mistral: Mistral Nemo์ ๋์์ ๋ฌด์์ธ๊ฐ์?
- ๋น์ทํ ๊ฐ๊ฒฉ๋์ ํ ์คํธ ๋ชจ๋ธ: ScaleDown: Summarize, ScaleDown: Extract, inclusionAI: Ling 3.0 Flash. ๋ชจ๋ ๊ฐ์ API ํค๋ก ์คํ๋๋ฏ๋ก ๋ฌธ์์ด ํ๋๋ง ๋ฐ๊พธ๋ฉด ์ ํ๋ฉ๋๋ค.
Mistral: Mistral Nemo ์ปค๋ฎค๋ํฐ
์ ํ ํฝ์ด ์ปค๋ฎค๋ํฐ์๋ ์์ง ํ ํฝ์ด ์์ต๋๋ค. Mistral: Mistral Nemo์ ๋ํ ์ฒซ ํ ํฝ์ ์ด์ด ๋ณด์ธ์.