์ฟ ํค๋ฅผ ์ฌ์ฉํฉ๋๋ค. ์ฟ ํค์ ๋ธ๋ผ์ฐ์ ์ ์ฅ์๋ ๋ก๊ทธ์ธ ์ํ๋ฅผ ์ ์งํ๊ณ ํ๊ฒฝ์ค์ ์ ๊ธฐ์ตํฉ๋๋ค. ๋์ํ์๋ฉด ์ฌ์ดํธ ์ด์ฉ ๋ฐฉ์๋ ์ธก์ ํฉ๋๋ค. ์ธ์ ๋ ์ง ํ ์ ์์ต๋๋ค. ์์ธํ ๋ด์ฉ์ ์ฟ ํค ์ ์ฑ ์ ์ฐธ๊ณ ํ์ธ์.
Mistral: Saba
mistralai/mistral-saba์ง๊ธ Mistral: Saba ์ฌ์ฉํด ๋ณด๊ธฐ
์ ๊ฐ๊ฒฉ์ผ๋ก ์์ก์์ ์ฐจ๊ฐ๋ฉ๋๋ค. ์ ๊ณ์ ์ ๋ฌด๋ฃ ์ฌ์ฉ๋์ผ๋ก ์์ํฉ๋๋ค.
ํ๋์ API. ๋ชจ๋ ๋ชจ๋ธ.
์ธ์ ๋น์ฉ US$0.00
์ค์
๊ณ ๊ธ ๋งค๊ฐ๋ณ์
Mistral: Saba ํ๋์ ๋ณด๊ธฐ
- ์ ๋ ฅ ๊ฐ๊ฒฉ์ด ํ ์คํธ ๋ชจ๋ธ 434๊ฐ์ ์ค์๊ฐ๋ณด๋ค 56% ๋ฎ์ต๋๋ค.
- 32,768 ํ ํฐ์ ์ปจํ ์คํธ ์๋์ฐ, ๊ธด ๋ฌธ์์ ๋ฉํฐํด ๋ํ์ ์ถฉ๋ถํฉ๋๋ค.
- ์์ด์ ํธ์ ํตํฉ์ ์ํ ๋๊ตฌ(ํจ์) ํธ์ถ์ ์ง์ํฉ๋๋ค.
- ์คํค๋ง ๊ธฐ๋ฐ ๊ตฌ์กฐํ๋ JSON ์ถ๋ ฅ์ ์ง์ํฉ๋๋ค.
- ์ผ๋ฐ์ ์ธ ์์ฒญ(์ ๋ ฅ 1,000 / ์ถ๋ ฅ 500 ํ ํฐ)์ ๋น์ฉ์ ์ฝ US$0.00175์ ๋๋ค.
Mistral: Saba ์๊ฐ
Mistral: Saba๋ Mistral์ ํ ์คํธ ๋ชจ๋ธ๋ก, ์ ๊ณต์ ์ฒด๊ฐ 2025๋ 2์ 17์ผ์ ์ถ์ํ์ต๋๋ค. ์ค๋๊ณผ ๋จ์์์๋ฅผ ์ํด ํน๋ณํ ์ค๊ณ๋ 24B ํ๋ผ๋ฏธํฐ ์ธ์ด ๋ชจ๋ธ์ด๋ฉฐ, ์ ๋ณ๋ ์ง์ญ ๋ฐ์ดํฐ๋ก ํ์ต๋์ด ํจ์จ์ ์ธ ์ฑ๋ฅ์ ์ ์งํ๋ฉด์๋ ์ ํํ๊ณ ๋งฅ๋ฝ์ ๋ง๋ ์๋ต์ ์ ๊ณตํฉ๋๋ค. ์ง์ ์ปท์คํ๋ 2024๋ 9์ 30์ผ์ ๋๋ค.
์ด ๋ชจ๋ธ์ ํ ์คํธ์ ํ์ผ ์ ๋ ฅ์ ๋ฐ๊ณ ํ ์คํธ๋ฅผ ๋ฐํํฉ๋๋ค. ์ปจํ ์คํธ ์๋์ฐ๋ 32,768 ํ ํฐ์ด๊ณ ์ต๋ ์ถ๋ ฅ์ 26,214 ํ ํฐ์ด๋ฏ๋ก, ๋จ์ผ ์์ฒญ์์ ์๋นํ ๊ธด ์ ๋ ฅ์ ์ฒ๋ฆฌํ๊ณ ๊ธด ์์ฑ์ ์์ฑํ ์ ์์ต๋๋ค. ์ง์๋๋ ์์ฒญ ํ๋ผ๋ฏธํฐ์๋ frequency_penalty, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_p๊ฐ ์์ต๋๋ค. tools์ tool_choice๊ฐ ์๋ค๋ ๊ฒ์ ํจ์ ํธ์ถ ๋๋ ์์ด์ ํธ ์คํ์ผ ์ํฌํ๋ก์์ ์ฌ์ฉํ ์ ์์์ ์๋ฏธํ๋ฉฐ, structured_outputs์ response_format์ ์ฌ์ฉํ๋ฉด ๋ฐํ๋๋ ํ ์คํธ์ ํํ๋ฅผ ์ ํํ ์ ์์ต๋๋ค.
์ง์ญ ์ค์ฌ์ฑ์ด ์๊ธฐ ๋๋ฌธ์ Saba๋ ์ค๋๊ณผ ๋จ์์์์ ์ธ์ด, ์ฉ์ด, ๋งฅ๋ฝ์ด ์ค์ํ ์ ํ๋ฆฌ์ผ์ด์ ์ ์ ํฉํฉ๋๋ค. ๊ณ ๊ฐ ์ง์ ์ด์์คํดํธ, ํด๋น ์ง์ญ ์ฒญ์ค์ ์ํ ์ฝํ ์ธ ์์ฑ๊ณผ ์์ฝ, ์ ๋ก๋๋ ํ์ผ์ ๋ํ ๋ฌธ์ ์ง์์๋ต, ๊ทธ๋ฆฌ๊ณ ์ง์ญ์ ์ผ๋ก ๊ด๋ จ๋ ํํ์ด ํ์ง์ ์ํฅ์ ์ฃผ๋ ์ถ์ถ ๋๋ ๋ถ๋ฅ ์์ ์ด ๊ทธ ์์ ๋๋ค. ํ์ผ ์ ๋ ฅ ๋ชจ๋ฌ๋ฆฌํฐ๋ ํ ์คํธ๋ฅผ ๋ถ์ฌ ๋ฃ๋ ๋์ ๋ฌธ์๋ฅผ ๋ชจ๋ธ์ ์ง์ ์ ๋ฌํ๋ ์ํฌํ๋ก์ ์ ์ฉํ๋ฉฐ, ๋๊ตฌ ํ๋ผ๋ฏธํฐ๋ ์ธ๋ถ ํจ์๋ API๋ฅผ ํธ์ถํด์ผ ํ๋ ํ์ดํ๋ผ์ธ์ ์ง์ํฉ๋๋ค. 32,768 ํ ํฐ ์ปจํ ์คํธ๋ ๊ธด ๋ณด๊ณ ์, ๋ค์ค ํด ๋ํ, ์ค๊ฐ ๊ท๋ชจ์ ๋ฌธ์ ์งํฉ์๋ ์ถฉ๋ถํ ์ฌ์ฉํ ์ ์์ง๋ง, ๋งค์ฐ ํฐ ์ฝํผ์ค์๋ ์ฒญํน์ด๋ ๊ฒ์์ด ํ์ํฉ๋๋ค.
๋ชจ๋ธ์ ๋ชจ๋ธ id "mistralai/mistral-saba"๋ฅผ ์ฌ์ฉํ์ฌ api14์ OpenAI ํธํ API๋ฅผ ํตํด ํธ์ถํฉ๋๋ค. ๊ธฐ์กด OpenAI ํด๋ผ์ด์ธํธ๋ฅผ api14 base URL๋ก ์ง์ ํ๊ณ , ํด๋น id๋ก ์ฑํ ์์ฑ ์์ฒญ์ ๋ณด๋ด๋ฉฐ, ์์ ๋์ด๋ ์ง์ ํ๋ผ๋ฏธํฐ ์ค ์ํ๋ ๊ฒ์ ์ผ๋ฐ์ ์ธ ๋ฐฉ์์ผ๋ก ์ ๋ฌํ๋ฉด ๋ฉ๋๋ค. ์ธํฐํ์ด์ค๊ฐ OpenAI ํธํ์ด๋ฏ๋ก, OpenAI ๋ชจ๋ธ์ฉ์ผ๋ก ์์ฑ๋ ์ฝ๋๋ ๋ชจ๋ธ id์ ์๋ํฌ์ธํธ ์ธ์๋ ๋์ฒด๋ก ์ต์ํ์ ๋ณ๊ฒฝ์ผ๋ก ์๋ํฉ๋๋ค.
์์ฒญ์ ์ค๊ณํ ๋ ์ปจํ ์คํธ์ ์ถ๋ ฅ ์ ํ์ ์ผ๋์ ๋์ญ์์ค. 32,768 ํ ํฐ์ ์ด๊ณผํ๋ ์ ๋ ฅ์ ์๋ผ๋ด๊ฑฐ๋ ๋ถํ ํด์ผ ํ๋ฉฐ, ์๋ต์ 26,214 ํ ํฐ์ผ๋ก ์ ํ๋ฉ๋๋ค. ์์ ์ด 2024๋ 9์ 30์ผ ์ดํ์ ์ง์์ ์์กดํ๊ฑฐ๋, ๋ฒ์ฉ ๋ชจ๋ธ์ด ๋ ์ ํฉํ ์ ์๋ ์ค๋๊ณผ ๋จ์์์ ์ด์ ๋ฐ์ ์์ญ์ ์ํ๋ค๋ฉด, ๋์ api14์ ๋ค๋ฅธ ๋ชจ๋ธ์ ๊ณ ๋ คํ์ญ์์ค.
Mistral: Saba API ํธ์ถ ๋ฐฉ๋ฒ
- ๋์๋ณด๋์์ API ํค๋ฅผ ๋ง๋์ธ์.
- ์ฌ์ฉํ๋ ์ธ์ด์ ๊ณต์ openai SDK๋ฅผ ์ค์นํ์ธ์.
- baseURL์ https://api14.com/api/v1๋ก, model์ "mistralai/mistral-saba"๋ก ์ค์ ํ์ธ์.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "mistralai/mistral-saba",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
์ง์ ํ๋ผ๋ฏธํฐ
frequency_penaltymax_tokenspresence_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_p์ฌ์
- ์ปจํ ์คํธ ๊ธธ์ด
- 32,768
- ์ต๋ ์ถ๋ ฅ
- 26,214
- ์ ๋ ฅ
- text, file
- ์ถ๋ ฅ
- text
- ์ง์ ๊ธฐ์ค์ผ
- 2024-09-30
api14 ์์ฒญ ์ ยท ์ต๊ทผ 7์ผ
Mistral: Saba: ์์ฃผ ๋ฌป๋ ์ง๋ฌธ
- Mistral: Saba API ๋น์ฉ์ ์ผ๋ง์ธ๊ฐ์?
- Mistral: Saba์ ๊ฐ๊ฒฉ์ ์ ๋ ฅ US$0.70 / 100๋ง ํ ํฐ์ ๋๋ค. ์ฑ๊ณตํ ์์ฒญ์ ๋ํด์๋ง USD ์์ก์์ ์ฐจ๊ฐ๋๋ฉฐ, ์คํจํ ์์ฒญ์ ๋ฌด๋ฃ์ ๋๋ค.
- Mistral: Saba์ ์ปจํ ์คํธ ์๋์ฐ๋ ์ผ๋ง์ธ๊ฐ์?
- Mistral: Saba๋(์) ์์ฒญ๋น ์ต๋ 32,768 ํ ํฐ์ ์ฝ์ต๋๋ค, ํ๋กฌํํธ, ๋ํ ๊ธฐ๋ก, ๋ฌธ์๋ฅผ ๋ชจ๋ ํฉ์น ์์ ๋๋ค. ์๋ต๋น ์ต๋ 26,214๊ฐ์ ์ถ๋ ฅ ํ ํฐ์ ์์ฑํฉ๋๋ค.
- Mistral: Saba๋(์) ๋ฌด์์ ํ ์ ์๋์?
- Mistral: Saba๋(์) text, file ์ ๋ ฅ์ ๋ฐ์ text ์ถ๋ ฅ์ ๋ฐํํฉ๋๋ค. ์ง์ ๊ธฐ๋ฅ: ๋๊ตฌ ํธ์ถ, ๊ตฌ์กฐํ๋ JSON ์ถ๋ ฅ.
- ์ฝ๋์์ Mistral: Saba๋ฅผ(์) ์ด๋ป๊ฒ ํธ์ถํ๋์?
- ์ด๋ค OpenAI SDK๋ base URL์ https://api14.com/api/v1๋ก ์ง์ ํ๊ณ model์ "mistralai/mistral-saba"๋ก ์ค์ ํ์ธ์, ๋ค๋ฅธ ์ฝ๋ ๋ณ๊ฒฝ์ ํ์ ์์ต๋๋ค. ์ด ํ์ด์ง์ ์ฝ๋ ํจ๋์์ ๋ฐ๋ก ์ธ ์ ์๋ ์์ ๋ฅผ ๋ณต์ฌํ์ธ์.
- Mistral: Saba์ ๋์์ ๋ฌด์์ธ๊ฐ์?
- ๋น์ทํ ๊ฐ๊ฒฉ๋์ ํ ์คํธ ๋ชจ๋ธ: TheDrummer: Cydonia 24B V4.1, TheDrummer: UnslopNemo 12B, Meta: Llama 3.1 70B Instruct. ๋ชจ๋ ๊ฐ์ API ํค๋ก ์คํ๋๋ฏ๋ก ๋ฌธ์์ด ํ๋๋ง ๋ฐ๊พธ๋ฉด ์ ํ๋ฉ๋๋ค.
Mistral: Saba ์ปค๋ฎค๋ํฐ
์ ํ ํฝ์ด ์ปค๋ฎค๋ํฐ์๋ ์์ง ํ ํฝ์ด ์์ต๋๋ค. Mistral: Saba์ ๋ํ ์ฒซ ํ ํฝ์ ์ด์ด ๋ณด์ธ์.