์ฟ ํ‚ค๋ฅผ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. ์ฟ ํ‚ค์™€ ๋ธŒ๋ผ์šฐ์ € ์ €์žฅ์†Œ๋Š” ๋กœ๊ทธ์ธ ์ƒํƒœ๋ฅผ ์œ ์ง€ํ•˜๊ณ  ํ™˜๊ฒฝ์„ค์ •์„ ๊ธฐ์–ตํ•ฉ๋‹ˆ๋‹ค. ๋™์˜ํ•˜์‹œ๋ฉด ์‚ฌ์ดํŠธ ์ด์šฉ ๋ฐฉ์‹๋„ ์ธก์ •ํ•ฉ๋‹ˆ๋‹ค. ์–ธ์ œ๋“ ์ง€ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ž์„ธํ•œ ๋‚ด์šฉ์€ ์ฟ ํ‚ค ์ •์ฑ…์„ ์ฐธ๊ณ ํ•˜์„ธ์š”.

Mistral: Mistral Nemo

mistralai/mistral-nemo
ํ…์ŠคํŠธ์ž…๋ ฅ: text๋„๊ตฌ131K2024. 7. 19. ์ถ”๊ฐ€๋จ

์ง€๊ธˆ Mistral: Mistral Nemo ์‚ฌ์šฉํ•ด ๋ณด๊ธฐ

์œ„ ๊ฐ€๊ฒฉ์œผ๋กœ ์ž”์•ก์—์„œ ์ฐจ๊ฐ๋ฉ๋‹ˆ๋‹ค. ์ƒˆ ๊ณ„์ •์€ ๋ฌด๋ฃŒ ์‚ฌ์šฉ๋Ÿ‰์œผ๋กœ ์‹œ์ž‘ํ•ฉ๋‹ˆ๋‹ค.

ํ•˜๋‚˜์˜ API. ๋ชจ๋“  ๋ชจ๋ธ.

์˜ค๋Š˜ ๋ฌด๋ฃŒ ๋ฉ”์‹œ์ง€ 5๊ฐœ ์ค‘ 5๊ฐœ ๋‚จ์Œ, ๋ฌด๋ฃŒ ๊ณ„์ •์„ ๋งŒ๋“ค๋ฉด ๋ฌด๋ฃŒ ์‚ฌ์šฉ๋Ÿ‰๊ณผ API ํ‚ค๊ฐ€ ์ถ”๊ฐ€๋ฉ๋‹ˆ๋‹ค.๋ฌด๋ฃŒ ๊ณ„์ • ๋งŒ๋“ค๊ธฐ๋กœ๊ทธ์ธ

์„ธ์…˜ ๋น„์šฉ US$0.00

Mistral: Mistral Nemo ํ•œ๋ˆˆ์— ๋ณด๊ธฐ

  • ์ž…๋ ฅ ๊ฐ€๊ฒฉ์ด ํ…์ŠคํŠธ ๋ชจ๋ธ 434๊ฐœ์˜ ์ค‘์•™๊ฐ’๋ณด๋‹ค 94% ๋‚ฎ์Šต๋‹ˆ๋‹ค.
  • 131,072 ํ† ํฐ์˜ ์ปจํ…์ŠคํŠธ ์œˆ๋„์šฐ, ๊ธด ๋ฌธ์„œ์™€ ๋ฉ€ํ‹ฐํ„ด ๋Œ€ํ™”์— ์ถฉ๋ถ„ํ•ฉ๋‹ˆ๋‹ค.
  • ์—์ด์ „ํŠธ์™€ ํ†ตํ•ฉ์„ ์œ„ํ•œ ๋„๊ตฌ(ํ•จ์ˆ˜) ํ˜ธ์ถœ์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค.
  • ์Šคํ‚ค๋งˆ ๊ธฐ๋ฐ˜ ๊ตฌ์กฐํ™”๋œ JSON ์ถœ๋ ฅ์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค.
  • ์ผ๋ฐ˜์ ์ธ ์š”์ฒญ(์ž…๋ ฅ 1,000 / ์ถœ๋ ฅ 500 ํ† ํฐ)์˜ ๋น„์šฉ์€ ์•ฝ US$0.000154์ž…๋‹ˆ๋‹ค.

Mistral: Mistral Nemo ์†Œ๊ฐœ

Mistral Nemo๋Š” NVIDIA์™€ ํ˜‘๋ ฅํ•˜์—ฌ ๋งŒ๋“  Mistral์˜ ํ…์ŠคํŠธ ๋ชจ๋ธ์ž…๋‹ˆ๋‹ค. 12B ํŒŒ๋ผ๋ฏธํ„ฐ ๋ชจ๋ธ์ด๋ฉฐ, ์ œ๊ณต์—…์ฒด ์ถœ์‹œ์ผ์€ 2024๋…„ 7์›” 19์ผ์ž…๋‹ˆ๋‹ค. ์ด ๋ชจ๋ธ์€ ๋‹ค๊ตญ์–ด๋ฅผ ์ง€์›ํ•˜๋ฉฐ ์˜์–ด, ํ”„๋ž‘์Šค์–ด, ๋…์ผ์–ด, ์ŠคํŽ˜์ธ์–ด, ์ดํƒˆ๋ฆฌ์•„์–ด, ํฌ๋ฅดํˆฌ๊ฐˆ์–ด, ์ค‘๊ตญ์–ด, ์ผ๋ณธ์–ด ๋ฐ ๊ธฐํƒ€ ์–ธ์–ด๋ฅผ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค. ํ”„๋กœ์ ํŠธ์šฉ ๋ชจ๋ธ์„ ์„ ํƒํ•˜๋Š” ๊ฒฝ์šฐ, ์ด ๋ชจ๋ธ์€ Mistral ๋ผ์ธ์—…์—์„œ ๊ฐ€์žฅ ํฐ ํ”Œ๋ž˜๊ทธ์‹ญ ๋ชจ๋ธ์ด ์•„๋‹ˆ๋ผ ๋” ์ž‘๊ณ  ํšจ์œจ์ ์ธ ๊ณ„์ธต์— ์†ํ•ฉ๋‹ˆ๋‹ค.

์ด ๋ชจ๋ธ์€ ํ…์ŠคํŠธ๋ฅผ ์ž…๋ ฅ์œผ๋กœ ๋ฐ›๊ณ  ํ…์ŠคํŠธ๋ฅผ ์ถœ๋ ฅ์œผ๋กœ ๋ฐ˜ํ™˜ํ•˜๋ฏ€๋กœ ์ด๋ฏธ์ง€๋‚˜ ์˜ค๋””์˜ค ์ฒ˜๋ฆฌ๊ฐ€ ์—†๋Š” ๋‹จ์ˆœํ•œ ์–ธ์–ด ๋ชจ๋ธ์ž…๋‹ˆ๋‹ค. ์ปจํ…์ŠคํŠธ ์œˆ๋„์šฐ๋Š” 131072 ํ† ํฐ์œผ๋กœ, ๋‹จ์ผ ์š”์ฒญ์— ๊ธด ๋ฌธ์„œ, ์žฅ์‹œ๊ฐ„ ๋Œ€ํ™” ๋˜๋Š” ์ƒ๋‹นํ•œ ํฌ๊ธฐ์˜ ์ฝ”๋“œ ํŒŒ์ผ์„ ๋‹ด์„ ์ˆ˜ ์žˆ์„ ๋งŒํผ ์ถฉ๋ถ„ํžˆ ํฝ๋‹ˆ๋‹ค. ์ตœ๋Œ€ ์ถœ๋ ฅ์€ 16384 ํ† ํฐ์ด๋ฏ€๋กœ ์‘๋‹ต์ด ๊ธธ ์ˆ˜ ์žˆ์ง€๋งŒ ์ž…๋ ฅ ํ•œ๋„๋ณด๋‹ค ํ›จ์”ฌ ๋‚ฎ๊ฒŒ ์ œํ•œ๋ฉ๋‹ˆ๋‹ค. ์ง€์‹ ์ปท์˜คํ”„๋Š” 2024๋…„ 4์›” 30์ผ์ด๋ฉฐ, ์ด๋Š” ์ž‘์—…์ด ํ•ด๋‹น ๋‚ ์งœ ์ดํ›„์˜ ์‚ฌ๊ฑด์ด๋‚˜ ์ •๋ณด์— ์˜์กดํ•˜๋Š” ๊ฒฝ์šฐ ์ค‘์š”ํ•ฉ๋‹ˆ๋‹ค.

์ด๋Ÿฌํ•œ ๊ธฐ๋Šฅ์€ ๋ช‡ ๊ฐ€์ง€ ์‹ค์šฉ์ ์ธ ์šฉ๋„์„ ์‹œ์‚ฌํ•ฉ๋‹ˆ๋‹ค. ๊ธด ์ปจํ…์ŠคํŠธ๋Š” ์žฅ๋ฌธ์˜ ๋ณด๊ณ ์„œ, ๊ณ„์•ฝ์„œ ๋ฐ ๋…น์ทจ๋ก์—์„œ ์ •๋ณด๋ฅผ ์š”์•ฝํ•˜๊ฑฐ๋‚˜ ์ถ”์ถœํ•˜๋Š” ๋ฐ ์ ํ•ฉํ•˜๋ฉฐ, ๋‹ค๊ตญ์–ด ์ง€์›์€ ๋ฒˆ์—ญ๊ณผ ์—ฌ๋Ÿฌ ์–ธ์–ด๋กœ ์‚ฌ์šฉ์ž์—๊ฒŒ ์„œ๋น„์Šค๋ฅผ ์ œ๊ณตํ•˜๋Š” ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์— ๋„์›€์ด ๋ฉ๋‹ˆ๋‹ค. ์ด ๋ชจ๋ธ์€ ํ…์ŠคํŠธ๋งŒ ๋ฐ›๊ณ  ๋ฐ˜ํ™˜ํ•˜๋ฏ€๋กœ ์ฑ„ํŒ… ์–ด์‹œ์Šคํ„ดํŠธ, ์ œ๊ณต๋œ ๋ฌธ์„œ์— ๋Œ€ํ•œ ์งˆ์˜์‘๋‹ต, ์ดˆ์•ˆ ์ž‘์„ฑ ๋ฐ ์žฌ์ž‘์„ฑ, ๋ถ„๋ฅ˜ ๋ฐ ๊ธฐํƒ€ ํ…์ŠคํŠธ ๋ณ€ํ™˜ ์ž‘์—…์— ์ ํ•ฉํ•ฉ๋‹ˆ๋‹ค. 16384 ํ† ํฐ ์ถœ๋ ฅ ์ƒํ•œ์€ ๋งค์šฐ ๊ธด ์ƒ์„ฑ ๋ฌธ์„œ๋ฅผ ์—ฌ๋Ÿฌ ๋ฒˆ์— ๋‚˜๋ˆ„์–ด ์ƒ์„ฑํ•ด์•ผ ํ•  ์ˆ˜ ์žˆ์Œ์„ ์˜๋ฏธํ•ฉ๋‹ˆ๋‹ค.

๋ชจ๋ธ id "mistralai/mistral-nemo"๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ api14์˜ OpenAI ํ˜ธํ™˜ API๋ฅผ ํ†ตํ•ด ์ด ๋ชจ๋ธ์„ ํ˜ธ์ถœํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ง€์›๋˜๋Š” ์š”์ฒญ ํŒŒ๋ผ๋ฏธํ„ฐ๋Š” frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs ๋ฐ top_p์ž…๋‹ˆ๋‹ค. ์ด ์ง‘ํ•ฉ์€ ์ƒ˜ํ”Œ๋ง ์ œ์–ด, ๊ฒฐ์ •๋ก ์  ์‹œ๋”ฉ, ์ค‘์ง€ ์‹œํ€€์Šค, ๊ตฌ์กฐํ™”๋œ ์ถœ๋ ฅ ๋ฐ ๋„๊ตฌ ํ˜ธ์ถœ์„ ํฌํ•จํ•˜๋ฏ€๋กœ ํ‘œ์ค€ ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ๋ฒ—์–ด๋‚˜์ง€ ์•Š๊ณ ๋„ ์ถœ๋ ฅ์˜ ์Šคํƒ€์ผ๊ณผ ํ˜•์‹์„ ๋ชจ๋‘ ์กฐ์ •ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

๋ช‡ ๊ฐ€์ง€ ์ œํ•œ์„ ์—ผ๋‘์— ๋‘˜ ๊ฐ€์น˜๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. ์ž…๋ ฅ๊ณผ ์ถœ๋ ฅ์€ ํ…์ŠคํŠธ ์ „์šฉ์ด๋ฏ€๋กœ ์ด๋ฏธ์ง€๋‚˜ ์˜ค๋””์˜ค๋ฅผ ๋ถ„์„ํ•ด์•ผ ํ•˜๋Š” ์ž‘์—…์—๋Š” ๋‹ค๋ฅธ ๋ชจ๋ธ์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. 2024๋…„ 4์›” 30์ผ์˜ ์ง€์‹ ์ปท์˜คํ”„๋Š” ๋ชจ๋ธ์ด ์ดํ›„ ์‚ฌ๊ฑด์— ๋Œ€ํ•œ ๋‚ด์žฅ๋œ ์ธ์‹์ด ์—†์Œ์„ ์˜๋ฏธํ•˜๋ฉฐ, 16384 ํ† ํฐ ์ถœ๋ ฅ ์ƒํ•œ์€ ๋‹จ์ผ ์‘๋‹ต ๊ธธ์ด๋ฅผ ์ œํ•œํ•ฉ๋‹ˆ๋‹ค. ์›Œํฌ๋กœ๋“œ๊ฐ€ ์ด ์ค‘ ํ•˜๋‚˜์— ์˜์กดํ•œ๋‹ค๋ฉด ๋‹ค๋ฅธ ๋ชจ๋ธ์ด ๋” ์ ํ•ฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Mistral: Mistral Nemo API ํ˜ธ์ถœ ๋ฐฉ๋ฒ•

  1. ๋Œ€์‹œ๋ณด๋“œ์—์„œ API ํ‚ค๋ฅผ ๋งŒ๋“œ์„ธ์š”.
  2. ์‚ฌ์šฉํ•˜๋Š” ์–ธ์–ด์˜ ๊ณต์‹ openai SDK๋ฅผ ์„ค์น˜ํ•˜์„ธ์š”.
  3. baseURL์„ https://api14.com/api/v1๋กœ, model์„ "mistralai/mistral-nemo"๋กœ ์„ค์ •ํ•˜์„ธ์š”.
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api14.com/api/v1",
  apiKey: process.env.API14_API_KEY,
});

const result = await client.chat.completions.create({
  "model": "mistralai/mistral-nemo",
  "messages": [
    {
      "role": "user",
      "content": "Explain vector databases in two sentences."
    }
  ]
});
console.log(result.choices[0].message.content);

์ง€์› ํŒŒ๋ผ๋ฏธํ„ฐ

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p

์‚ฌ์–‘

์ปจํ…์ŠคํŠธ ๊ธธ์ด
131,072
์ตœ๋Œ€ ์ถœ๋ ฅ
16,384
์ž…๋ ฅ
text
์ถœ๋ ฅ
text
์ง€์‹ ๊ธฐ์ค€์ผ
2024-04-30

api14 ์š”์ฒญ ์ˆ˜ ยท ์ตœ๊ทผ 7์ผ

10-1710-1810-1910-2010-2110-2210-23

Mistral: Mistral Nemo: ์ž์ฃผ ๋ฌป๋Š” ์งˆ๋ฌธ

Mistral: Mistral Nemo API ๋น„์šฉ์€ ์–ผ๋งˆ์ธ๊ฐ€์š”?
Mistral: Mistral Nemo์˜ ๊ฐ€๊ฒฉ์€ ์ž…๋ ฅ US$0.10 / 100๋งŒ ํ† ํฐ์ž…๋‹ˆ๋‹ค. ์„ฑ๊ณตํ•œ ์š”์ฒญ์— ๋Œ€ํ•ด์„œ๋งŒ USD ์ž”์•ก์—์„œ ์ฐจ๊ฐ๋˜๋ฉฐ, ์‹คํŒจํ•œ ์š”์ฒญ์€ ๋ฌด๋ฃŒ์ž…๋‹ˆ๋‹ค.
Mistral: Mistral Nemo์˜ ์ปจํ…์ŠคํŠธ ์œˆ๋„์šฐ๋Š” ์–ผ๋งˆ์ธ๊ฐ€์š”?
Mistral: Mistral Nemo๋Š”(์€) ์š”์ฒญ๋‹น ์ตœ๋Œ€ 131,072 ํ† ํฐ์„ ์ฝ์Šต๋‹ˆ๋‹ค, ํ”„๋กฌํ”„ํŠธ, ๋Œ€ํ™” ๊ธฐ๋ก, ๋ฌธ์„œ๋ฅผ ๋ชจ๋‘ ํ•ฉ์นœ ์–‘์ž…๋‹ˆ๋‹ค. ์‘๋‹ต๋‹น ์ตœ๋Œ€ 16,384๊ฐœ์˜ ์ถœ๋ ฅ ํ† ํฐ์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.
Mistral: Mistral Nemo๋Š”(์€) ๋ฌด์—‡์„ ํ•  ์ˆ˜ ์žˆ๋‚˜์š”?
Mistral: Mistral Nemo๋Š”(์€) text ์ž…๋ ฅ์„ ๋ฐ›์•„ text ์ถœ๋ ฅ์„ ๋ฐ˜ํ™˜ํ•ฉ๋‹ˆ๋‹ค. ์ง€์› ๊ธฐ๋Šฅ: ๋„๊ตฌ ํ˜ธ์ถœ, ๊ตฌ์กฐํ™”๋œ JSON ์ถœ๋ ฅ.
์ฝ”๋“œ์—์„œ Mistral: Mistral Nemo๋ฅผ(์„) ์–ด๋–ป๊ฒŒ ํ˜ธ์ถœํ•˜๋‚˜์š”?
์–ด๋–ค OpenAI SDK๋“  base URL์„ https://api14.com/api/v1๋กœ ์ง€์ •ํ•˜๊ณ  model์„ "mistralai/mistral-nemo"๋กœ ์„ค์ •ํ•˜์„ธ์š”, ๋‹ค๋ฅธ ์ฝ”๋“œ ๋ณ€๊ฒฝ์€ ํ•„์š” ์—†์Šต๋‹ˆ๋‹ค. ์ด ํŽ˜์ด์ง€์˜ ์ฝ”๋“œ ํŒจ๋„์—์„œ ๋ฐ”๋กœ ์“ธ ์ˆ˜ ์žˆ๋Š” ์˜ˆ์ œ๋ฅผ ๋ณต์‚ฌํ•˜์„ธ์š”.
Mistral: Mistral Nemo์˜ ๋Œ€์•ˆ์€ ๋ฌด์—‡์ธ๊ฐ€์š”?
๋น„์Šทํ•œ ๊ฐ€๊ฒฉ๋Œ€์˜ ํ…์ŠคํŠธ ๋ชจ๋ธ: ScaleDown: Summarize, ScaleDown: Extract, inclusionAI: Ling 3.0 Flash. ๋ชจ๋‘ ๊ฐ™์€ API ํ‚ค๋กœ ์‹คํ–‰๋˜๋ฏ€๋กœ ๋ฌธ์ž์—ด ํ•˜๋‚˜๋งŒ ๋ฐ”๊พธ๋ฉด ์ „ํ™˜๋ฉ๋‹ˆ๋‹ค.

Mistral: Mistral Nemo ์ปค๋ฎค๋‹ˆํ‹ฐ

์ƒˆ ํ† ํ”ฝ

์ด ์ปค๋ฎค๋‹ˆํ‹ฐ์—๋Š” ์•„์ง ํ† ํ”ฝ์ด ์—†์Šต๋‹ˆ๋‹ค. Mistral: Mistral Nemo์— ๋Œ€ํ•œ ์ฒซ ํ† ํ”ฝ์„ ์—ด์–ด ๋ณด์„ธ์š”.