์ฟ ํ‚ค๋ฅผ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. ์ฟ ํ‚ค์™€ ๋ธŒ๋ผ์šฐ์ € ์ €์žฅ์†Œ๋Š” ๋กœ๊ทธ์ธ ์ƒํƒœ๋ฅผ ์œ ์ง€ํ•˜๊ณ  ํ™˜๊ฒฝ์„ค์ •์„ ๊ธฐ์–ตํ•ฉ๋‹ˆ๋‹ค. ๋™์˜ํ•˜์‹œ๋ฉด ์‚ฌ์ดํŠธ ์ด์šฉ ๋ฐฉ์‹๋„ ์ธก์ •ํ•ฉ๋‹ˆ๋‹ค. ์–ธ์ œ๋“ ์ง€ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ž์„ธํ•œ ๋‚ด์šฉ์€ ์ฟ ํ‚ค ์ •์ฑ…์„ ์ฐธ๊ณ ํ•˜์„ธ์š”.

Mistral: Saba

mistralai/mistral-saba
ํ…์ŠคํŠธ์ž…๋ ฅ: text ยท file๋„๊ตฌ33K2025. 2. 17. ์ถ”๊ฐ€๋จ

์ง€๊ธˆ Mistral: Saba ์‚ฌ์šฉํ•ด ๋ณด๊ธฐ

์œ„ ๊ฐ€๊ฒฉ์œผ๋กœ ์ž”์•ก์—์„œ ์ฐจ๊ฐ๋ฉ๋‹ˆ๋‹ค. ์ƒˆ ๊ณ„์ •์€ ๋ฌด๋ฃŒ ์‚ฌ์šฉ๋Ÿ‰์œผ๋กœ ์‹œ์ž‘ํ•ฉ๋‹ˆ๋‹ค.

ํ•˜๋‚˜์˜ API. ๋ชจ๋“  ๋ชจ๋ธ.

์˜ค๋Š˜ ๋ฌด๋ฃŒ ๋ฉ”์‹œ์ง€ 5๊ฐœ ์ค‘ 5๊ฐœ ๋‚จ์Œ, ๋ฌด๋ฃŒ ๊ณ„์ •์„ ๋งŒ๋“ค๋ฉด ๋ฌด๋ฃŒ ์‚ฌ์šฉ๋Ÿ‰๊ณผ API ํ‚ค๊ฐ€ ์ถ”๊ฐ€๋ฉ๋‹ˆ๋‹ค.๋ฌด๋ฃŒ ๊ณ„์ • ๋งŒ๋“ค๊ธฐ๋กœ๊ทธ์ธ

์„ธ์…˜ ๋น„์šฉ US$0.00

Mistral: Saba ํ•œ๋ˆˆ์— ๋ณด๊ธฐ

  • ์ž…๋ ฅ ๊ฐ€๊ฒฉ์ด ํ…์ŠคํŠธ ๋ชจ๋ธ 434๊ฐœ์˜ ์ค‘์•™๊ฐ’๋ณด๋‹ค 56% ๋‚ฎ์Šต๋‹ˆ๋‹ค.
  • 32,768 ํ† ํฐ์˜ ์ปจํ…์ŠคํŠธ ์œˆ๋„์šฐ, ๊ธด ๋ฌธ์„œ์™€ ๋ฉ€ํ‹ฐํ„ด ๋Œ€ํ™”์— ์ถฉ๋ถ„ํ•ฉ๋‹ˆ๋‹ค.
  • ์—์ด์ „ํŠธ์™€ ํ†ตํ•ฉ์„ ์œ„ํ•œ ๋„๊ตฌ(ํ•จ์ˆ˜) ํ˜ธ์ถœ์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค.
  • ์Šคํ‚ค๋งˆ ๊ธฐ๋ฐ˜ ๊ตฌ์กฐํ™”๋œ JSON ์ถœ๋ ฅ์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค.
  • ์ผ๋ฐ˜์ ์ธ ์š”์ฒญ(์ž…๋ ฅ 1,000 / ์ถœ๋ ฅ 500 ํ† ํฐ)์˜ ๋น„์šฉ์€ ์•ฝ US$0.00175์ž…๋‹ˆ๋‹ค.

Mistral: Saba ์†Œ๊ฐœ

Mistral: Saba๋Š” Mistral์˜ ํ…์ŠคํŠธ ๋ชจ๋ธ๋กœ, ์ œ๊ณต์—…์ฒด๊ฐ€ 2025๋…„ 2์›” 17์ผ์— ์ถœ์‹œํ–ˆ์Šต๋‹ˆ๋‹ค. ์ค‘๋™๊ณผ ๋‚จ์•„์‹œ์•„๋ฅผ ์œ„ํ•ด ํŠน๋ณ„ํžˆ ์„ค๊ณ„๋œ 24B ํŒŒ๋ผ๋ฏธํ„ฐ ์–ธ์–ด ๋ชจ๋ธ์ด๋ฉฐ, ์„ ๋ณ„๋œ ์ง€์—ญ ๋ฐ์ดํ„ฐ๋กœ ํ•™์Šต๋˜์–ด ํšจ์œจ์ ์ธ ์„ฑ๋Šฅ์„ ์œ ์ง€ํ•˜๋ฉด์„œ๋„ ์ •ํ™•ํ•˜๊ณ  ๋งฅ๋ฝ์— ๋งž๋Š” ์‘๋‹ต์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ์ง€์‹ ์ปท์˜คํ”„๋Š” 2024๋…„ 9์›” 30์ผ์ž…๋‹ˆ๋‹ค.

์ด ๋ชจ๋ธ์€ ํ…์ŠคํŠธ์™€ ํŒŒ์ผ ์ž…๋ ฅ์„ ๋ฐ›๊ณ  ํ…์ŠคํŠธ๋ฅผ ๋ฐ˜ํ™˜ํ•ฉ๋‹ˆ๋‹ค. ์ปจํ…์ŠคํŠธ ์œˆ๋„์šฐ๋Š” 32,768 ํ† ํฐ์ด๊ณ  ์ตœ๋Œ€ ์ถœ๋ ฅ์€ 26,214 ํ† ํฐ์ด๋ฏ€๋กœ, ๋‹จ์ผ ์š”์ฒญ์—์„œ ์ƒ๋‹นํžˆ ๊ธด ์ž…๋ ฅ์„ ์ฒ˜๋ฆฌํ•˜๊ณ  ๊ธด ์™„์„ฑ์„ ์ƒ์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ง€์›๋˜๋Š” ์š”์ฒญ ํŒŒ๋ผ๋ฏธํ„ฐ์—๋Š” frequency_penalty, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_p๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. tools์™€ tool_choice๊ฐ€ ์žˆ๋‹ค๋Š” ๊ฒƒ์€ ํ•จ์ˆ˜ ํ˜ธ์ถœ ๋˜๋Š” ์—์ด์ „ํŠธ ์Šคํƒ€์ผ ์›Œํฌํ”Œ๋กœ์—์„œ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Œ์„ ์˜๋ฏธํ•˜๋ฉฐ, structured_outputs์™€ response_format์„ ์‚ฌ์šฉํ•˜๋ฉด ๋ฐ˜ํ™˜๋˜๋Š” ํ…์ŠคํŠธ์˜ ํ˜•ํƒœ๋ฅผ ์ œํ•œํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ง€์—ญ ์ค‘์‹ฌ์„ฑ์ด ์žˆ๊ธฐ ๋•Œ๋ฌธ์— Saba๋Š” ์ค‘๋™๊ณผ ๋‚จ์•„์‹œ์•„์˜ ์–ธ์–ด, ์šฉ์–ด, ๋งฅ๋ฝ์ด ์ค‘์š”ํ•œ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์— ์ ํ•ฉํ•ฉ๋‹ˆ๋‹ค. ๊ณ ๊ฐ ์ง€์› ์–ด์‹œ์Šคํ„ดํŠธ, ํ•ด๋‹น ์ง€์—ญ ์ฒญ์ค‘์„ ์œ„ํ•œ ์ฝ˜ํ…์ธ  ์ƒ์„ฑ๊ณผ ์š”์•ฝ, ์—…๋กœ๋“œ๋œ ํŒŒ์ผ์— ๋Œ€ํ•œ ๋ฌธ์„œ ์งˆ์˜์‘๋‹ต, ๊ทธ๋ฆฌ๊ณ  ์ง€์—ญ์ ์œผ๋กœ ๊ด€๋ จ๋œ ํ‘œํ˜„์ด ํ’ˆ์งˆ์— ์˜ํ–ฅ์„ ์ฃผ๋Š” ์ถ”์ถœ ๋˜๋Š” ๋ถ„๋ฅ˜ ์ž‘์—…์ด ๊ทธ ์˜ˆ์ž…๋‹ˆ๋‹ค. ํŒŒ์ผ ์ž…๋ ฅ ๋ชจ๋‹ฌ๋ฆฌํ‹ฐ๋Š” ํ…์ŠคํŠธ๋ฅผ ๋ถ™์—ฌ ๋„ฃ๋Š” ๋Œ€์‹  ๋ฌธ์„œ๋ฅผ ๋ชจ๋ธ์— ์ง์ ‘ ์ „๋‹ฌํ•˜๋Š” ์›Œํฌํ”Œ๋กœ์— ์œ ์šฉํ•˜๋ฉฐ, ๋„๊ตฌ ํŒŒ๋ผ๋ฏธํ„ฐ๋Š” ์™ธ๋ถ€ ํ•จ์ˆ˜๋‚˜ API๋ฅผ ํ˜ธ์ถœํ•ด์•ผ ํ•˜๋Š” ํŒŒ์ดํ”„๋ผ์ธ์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค. 32,768 ํ† ํฐ ์ปจํ…์ŠคํŠธ๋Š” ๊ธด ๋ณด๊ณ ์„œ, ๋‹ค์ค‘ ํ„ด ๋Œ€ํ™”, ์ค‘๊ฐ„ ๊ทœ๋ชจ์˜ ๋ฌธ์„œ ์ง‘ํ•ฉ์—๋Š” ์ถฉ๋ถ„ํžˆ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์ง€๋งŒ, ๋งค์šฐ ํฐ ์ฝ”ํผ์Šค์—๋Š” ์ฒญํ‚น์ด๋‚˜ ๊ฒ€์ƒ‰์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.

๋ชจ๋ธ์€ ๋ชจ๋ธ id "mistralai/mistral-saba"๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ api14์˜ OpenAI ํ˜ธํ™˜ API๋ฅผ ํ†ตํ•ด ํ˜ธ์ถœํ•ฉ๋‹ˆ๋‹ค. ๊ธฐ์กด OpenAI ํด๋ผ์ด์–ธํŠธ๋ฅผ api14 base URL๋กœ ์ง€์ •ํ•˜๊ณ , ํ•ด๋‹น id๋กœ ์ฑ„ํŒ… ์™„์„ฑ ์š”์ฒญ์„ ๋ณด๋‚ด๋ฉฐ, ์œ„์— ๋‚˜์—ด๋œ ์ง€์› ํŒŒ๋ผ๋ฏธํ„ฐ ์ค‘ ์›ํ•˜๋Š” ๊ฒƒ์„ ์ผ๋ฐ˜์ ์ธ ๋ฐฉ์‹์œผ๋กœ ์ „๋‹ฌํ•˜๋ฉด ๋ฉ๋‹ˆ๋‹ค. ์ธํ„ฐํŽ˜์ด์Šค๊ฐ€ OpenAI ํ˜ธํ™˜์ด๋ฏ€๋กœ, OpenAI ๋ชจ๋ธ์šฉ์œผ๋กœ ์ž‘์„ฑ๋œ ์ฝ”๋“œ๋Š” ๋ชจ๋ธ id์™€ ์—”๋“œํฌ์ธํŠธ ์™ธ์—๋Š” ๋Œ€์ฒด๋กœ ์ตœ์†Œํ•œ์˜ ๋ณ€๊ฒฝ์œผ๋กœ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค.

์š”์ฒญ์„ ์„ค๊ณ„ํ•  ๋•Œ ์ปจํ…์ŠคํŠธ์™€ ์ถœ๋ ฅ ์ œํ•œ์„ ์—ผ๋‘์— ๋‘์‹ญ์‹œ์˜ค. 32,768 ํ† ํฐ์„ ์ดˆ๊ณผํ•˜๋Š” ์ž…๋ ฅ์€ ์ž˜๋ผ๋‚ด๊ฑฐ๋‚˜ ๋ถ„ํ• ํ•ด์•ผ ํ•˜๋ฉฐ, ์‘๋‹ต์€ 26,214 ํ† ํฐ์œผ๋กœ ์ œํ•œ๋ฉ๋‹ˆ๋‹ค. ์ž‘์—…์ด 2024๋…„ 9์›” 30์ผ ์ดํ›„์˜ ์ง€์‹์— ์˜์กดํ•˜๊ฑฐ๋‚˜, ๋ฒ”์šฉ ๋ชจ๋ธ์ด ๋” ์ ํ•ฉํ•  ์ˆ˜ ์žˆ๋Š” ์ค‘๋™๊ณผ ๋‚จ์•„์‹œ์•„ ์ดˆ์  ๋ฐ–์˜ ์˜์—ญ์— ์†ํ•œ๋‹ค๋ฉด, ๋Œ€์‹  api14์˜ ๋‹ค๋ฅธ ๋ชจ๋ธ์„ ๊ณ ๋ คํ•˜์‹ญ์‹œ์˜ค.

Mistral: Saba API ํ˜ธ์ถœ ๋ฐฉ๋ฒ•

  1. ๋Œ€์‹œ๋ณด๋“œ์—์„œ API ํ‚ค๋ฅผ ๋งŒ๋“œ์„ธ์š”.
  2. ์‚ฌ์šฉํ•˜๋Š” ์–ธ์–ด์˜ ๊ณต์‹ openai SDK๋ฅผ ์„ค์น˜ํ•˜์„ธ์š”.
  3. baseURL์„ https://api14.com/api/v1๋กœ, model์„ "mistralai/mistral-saba"๋กœ ์„ค์ •ํ•˜์„ธ์š”.
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api14.com/api/v1",
  apiKey: process.env.API14_API_KEY,
});

const result = await client.chat.completions.create({
  "model": "mistralai/mistral-saba",
  "messages": [
    {
      "role": "user",
      "content": "Explain vector databases in two sentences."
    }
  ]
});
console.log(result.choices[0].message.content);

์ง€์› ํŒŒ๋ผ๋ฏธํ„ฐ

frequency_penaltymax_tokenspresence_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_p

์‚ฌ์–‘

์ปจํ…์ŠคํŠธ ๊ธธ์ด
32,768
์ตœ๋Œ€ ์ถœ๋ ฅ
26,214
์ž…๋ ฅ
text, file
์ถœ๋ ฅ
text
์ง€์‹ ๊ธฐ์ค€์ผ
2024-09-30

api14 ์š”์ฒญ ์ˆ˜ ยท ์ตœ๊ทผ 7์ผ

10-1710-1810-1910-2010-2110-2210-23

Mistral: Saba: ์ž์ฃผ ๋ฌป๋Š” ์งˆ๋ฌธ

Mistral: Saba API ๋น„์šฉ์€ ์–ผ๋งˆ์ธ๊ฐ€์š”?
Mistral: Saba์˜ ๊ฐ€๊ฒฉ์€ ์ž…๋ ฅ US$0.70 / 100๋งŒ ํ† ํฐ์ž…๋‹ˆ๋‹ค. ์„ฑ๊ณตํ•œ ์š”์ฒญ์— ๋Œ€ํ•ด์„œ๋งŒ USD ์ž”์•ก์—์„œ ์ฐจ๊ฐ๋˜๋ฉฐ, ์‹คํŒจํ•œ ์š”์ฒญ์€ ๋ฌด๋ฃŒ์ž…๋‹ˆ๋‹ค.
Mistral: Saba์˜ ์ปจํ…์ŠคํŠธ ์œˆ๋„์šฐ๋Š” ์–ผ๋งˆ์ธ๊ฐ€์š”?
Mistral: Saba๋Š”(์€) ์š”์ฒญ๋‹น ์ตœ๋Œ€ 32,768 ํ† ํฐ์„ ์ฝ์Šต๋‹ˆ๋‹ค, ํ”„๋กฌํ”„ํŠธ, ๋Œ€ํ™” ๊ธฐ๋ก, ๋ฌธ์„œ๋ฅผ ๋ชจ๋‘ ํ•ฉ์นœ ์–‘์ž…๋‹ˆ๋‹ค. ์‘๋‹ต๋‹น ์ตœ๋Œ€ 26,214๊ฐœ์˜ ์ถœ๋ ฅ ํ† ํฐ์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.
Mistral: Saba๋Š”(์€) ๋ฌด์—‡์„ ํ•  ์ˆ˜ ์žˆ๋‚˜์š”?
Mistral: Saba๋Š”(์€) text, file ์ž…๋ ฅ์„ ๋ฐ›์•„ text ์ถœ๋ ฅ์„ ๋ฐ˜ํ™˜ํ•ฉ๋‹ˆ๋‹ค. ์ง€์› ๊ธฐ๋Šฅ: ๋„๊ตฌ ํ˜ธ์ถœ, ๊ตฌ์กฐํ™”๋œ JSON ์ถœ๋ ฅ.
์ฝ”๋“œ์—์„œ Mistral: Saba๋ฅผ(์„) ์–ด๋–ป๊ฒŒ ํ˜ธ์ถœํ•˜๋‚˜์š”?
์–ด๋–ค OpenAI SDK๋“  base URL์„ https://api14.com/api/v1๋กœ ์ง€์ •ํ•˜๊ณ  model์„ "mistralai/mistral-saba"๋กœ ์„ค์ •ํ•˜์„ธ์š”, ๋‹ค๋ฅธ ์ฝ”๋“œ ๋ณ€๊ฒฝ์€ ํ•„์š” ์—†์Šต๋‹ˆ๋‹ค. ์ด ํŽ˜์ด์ง€์˜ ์ฝ”๋“œ ํŒจ๋„์—์„œ ๋ฐ”๋กœ ์“ธ ์ˆ˜ ์žˆ๋Š” ์˜ˆ์ œ๋ฅผ ๋ณต์‚ฌํ•˜์„ธ์š”.
Mistral: Saba์˜ ๋Œ€์•ˆ์€ ๋ฌด์—‡์ธ๊ฐ€์š”?
๋น„์Šทํ•œ ๊ฐ€๊ฒฉ๋Œ€์˜ ํ…์ŠคํŠธ ๋ชจ๋ธ: TheDrummer: Cydonia 24B V4.1, TheDrummer: UnslopNemo 12B, Meta: Llama 3.1 70B Instruct. ๋ชจ๋‘ ๊ฐ™์€ API ํ‚ค๋กœ ์‹คํ–‰๋˜๋ฏ€๋กœ ๋ฌธ์ž์—ด ํ•˜๋‚˜๋งŒ ๋ฐ”๊พธ๋ฉด ์ „ํ™˜๋ฉ๋‹ˆ๋‹ค.

Mistral: Saba ์ปค๋ฎค๋‹ˆํ‹ฐ

์ƒˆ ํ† ํ”ฝ

์ด ์ปค๋ฎค๋‹ˆํ‹ฐ์—๋Š” ์•„์ง ํ† ํ”ฝ์ด ์—†์Šต๋‹ˆ๋‹ค. Mistral: Saba์— ๋Œ€ํ•œ ์ฒซ ํ† ํ”ฝ์„ ์—ด์–ด ๋ณด์„ธ์š”.