์ฟ ํค๋ฅผ ์ฌ์ฉํฉ๋๋ค. ์ฟ ํค์ ๋ธ๋ผ์ฐ์ ์ ์ฅ์๋ ๋ก๊ทธ์ธ ์ํ๋ฅผ ์ ์งํ๊ณ ํ๊ฒฝ์ค์ ์ ๊ธฐ์ตํฉ๋๋ค. ๋์ํ์๋ฉด ์ฌ์ดํธ ์ด์ฉ ๋ฐฉ์๋ ์ธก์ ํฉ๋๋ค. ์ธ์ ๋ ์ง ํ ์ ์์ต๋๋ค. ์์ธํ ๋ด์ฉ์ ์ฟ ํค ์ ์ฑ ์ ์ฐธ๊ณ ํ์ธ์.
TheDrummer: UnslopNemo 12B
thedrummer/unslopnemo-12b์ง๊ธ TheDrummer: UnslopNemo 12B ์ฌ์ฉํด ๋ณด๊ธฐ
์ ๊ฐ๊ฒฉ์ผ๋ก ์์ก์์ ์ฐจ๊ฐ๋ฉ๋๋ค. ์ ๊ณ์ ์ ๋ฌด๋ฃ ์ฌ์ฉ๋์ผ๋ก ์์ํฉ๋๋ค.
ํ๋์ API. ๋ชจ๋ ๋ชจ๋ธ.
์ธ์ ๋น์ฉ US$0.00
์ค์
๊ณ ๊ธ ๋งค๊ฐ๋ณ์
TheDrummer: UnslopNemo 12B ํ๋์ ๋ณด๊ธฐ
- ์ ๋ ฅ ๊ฐ๊ฒฉ์ด ํ ์คํธ ๋ชจ๋ธ 434๊ฐ์ ์ค์๊ฐ๋ณด๋ค 11% ๋ฎ์ต๋๋ค.
- 1,024,000 ํ ํฐ์ ์ปจํ ์คํธ ์๋์ฐ, ๊ธด ๋ฌธ์์ ๋ฉํฐํด ๋ํ์ ์ถฉ๋ถํฉ๋๋ค.
- ์คํค๋ง ๊ธฐ๋ฐ ๊ตฌ์กฐํ๋ JSON ์ถ๋ ฅ์ ์ง์ํฉ๋๋ค.
- ์ผ๋ฐ์ ์ธ ์์ฒญ(์ ๋ ฅ 1,000 / ์ถ๋ ฅ 500 ํ ํฐ)์ ๋น์ฉ์ ์ฝ US$0.00210์ ๋๋ค.
TheDrummer: UnslopNemo 12B ์๊ฐ
TheDrummer: UnslopNemo 12B๋ Rocinante์ ์ ์์์ธ TheDrummer์ ํ ์คํธ ๋ชจ๋ธ์ ๋๋ค. ์ ๊ณต์ ์ฒด๊ฐ 2024-11-08์ ์ถ์ํ์ผ๋ฉฐ, ์ ๊ณต์ ์ฒด ์ค๋ช ์์๋ UnslopNemo v4.1๋ก ์๊ฐํฉ๋๋ค. ํด๋น ๋ผ์ธ์ ์ต์ ์ถ๊ฐ ๋ชจ๋ธ๋ก, ๋ชจํ ๊ธ์ฐ๊ธฐ์ ์ญํ ๊ทน ์๋๋ฆฌ์ค๋ฅผ ์ํด ์ค๊ณ๋์์ต๋๋ค. ํ ์คํธ ์นดํ ๊ณ ๋ฆฌ์ ์ํ๋ฏ๋ก ์ด๋ฏธ์ง, ์ค๋์ค ๋๋ ๊ธฐํ ๋ชจ๋ฌ๋ฆฌํฐ๊ฐ ์๋๋ผ ์ธ์ด ์์ ์ ๋์์ผ๋ก ํฉ๋๋ค.
์ ๋ ฅ ์ธก๋ฉด์์ ์ด ๋ชจ๋ธ์ ํ ์คํธ๋ง ๋ฐ์๋ค์ด๊ณ ํ ์คํธ๋ง ์์ฑํฉ๋๋ค. ์ปจํ ์คํธ ์๋๋ 1,024,000 ํ ํฐ์ผ๋ก ๋งค์ฐ ํฌ๋ฉฐ, ๊ธด ์๊ณ , ํ์ฅ๋ ์ฑํ ๊ธฐ๋ก ๋๋ ํฐ ์ฐธ์กฐ ๋ฌธ์๋ฅผ ๋จ์ผ ์์ฒญ์ ์ ์งํ ์ ์์ต๋๋ค. ์ต๋ ์ถ๋ ฅ์ 819,200 ํ ํฐ์ด๋ฏ๋ก ํด๋น ์๋ ์์์ ๊ธด ์์ฑ์ด ๊ฐ๋ฅํฉ๋๋ค. ์ง์ ์ปท์คํ๋ 2024-04-30์ด๋ฏ๋ก, ์์ ์ด ๊ทธ ๋ ์ง ์ดํ์ ์ฌ๊ฑด์ ์์กดํ๋ค๋ฉด ์ค์ํฉ๋๋ค. ์ง์๋๋ ์์ฒญ ๋งค๊ฐ๋ณ์์๋ frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, top_k, top_logprobs ๋ฐ top_p๊ฐ ํฌํจ๋ฉ๋๋ค.
๋ชจํ ๊ธ์ฐ๊ธฐ์ ์ญํ ๊ทน์ ๋ํ ๋ช ์๋ ์ด์ ์ ์ด ๋ชจ๋ธ์ด ๊ฐ์ฅ ์ ๋ง๋ ์ฉ๋๋ฅผ ์์ฌํฉ๋๋ค. ์ธํฐ๋ํฐ๋ธ ํฝ์ ๊ณผ ํ ์คํธ ์ด๋๋ฒค์ฒ๋ ์์ฐ์ค๋ฌ์ด ์กฐํฉ์ ๋๋ค. ๋ชจ๋ธ์ด ๊ธด ์๋๋ฆฌ์ค๋ฅผ ๊ณ์ ์งํํ๊ณ ์บ๋ฆญํฐ์ ๋ง๊ฒ ์๋ตํ ์ ์๊ธฐ ๋๋ฌธ์ ๋๋ค. ๋ฐฉ๋ํ ๋ฐฐ๊ฒฝ ์ด์ผ๊ธฐ๋ฅผ ๊ฐ์ง ์ง์์ ์ธ ์บ๋ฆญํฐ๋ฅผ ํฌํจํ ์ญํ ๊ทน ์ฑํ ์ ํฐ ์ปจํ ์คํธ ์๋์ ์ด์ ์ ๋ฐ์ต๋๋ค. ์ด์ ํด๊ณผ ์ค์ ๋ฉ๋ชจ๋ฅผ ํ๋กฌํํธ์ ์ ์งํ ์ ์๊ธฐ ๋๋ฌธ์ ๋๋ค. ์ฐ์ฌ ์ด์ผ๊ธฐ๋ ์บ ํ์ธ ์๋ฃ ๊ฐ์ ์ฅํธ ์ฐฝ์ ๊ธ์ฐ๊ธฐ๋ ํฉ๋ฆฌ์ ์ธ ์ฉ๋์ ๋๋ค. ์ํ๋ง ๋งค๊ฐ๋ณ์๋ ์ด์กฐ์ ๋ฐ๋ณต์ ์ ์ดํ ์ ์๊ฒ ํด ์ฃผ๋ฏ๋ก, ์บ๋ฆญํฐ๋ ๋ด๋ ์ดํฐ์ ๋ชฉ์๋ฆฌ๋ฅผ ๊ธด ์ธ์ ๋์ ์ผ๊ด๋๊ฒ ์ ์งํด์ผ ํ ๋ ๋์์ด ๋ฉ๋๋ค. ๊ธฐ๊ณ๊ฐ ์ฝ์ ์ ์๋ ์๋ต์ ์ํ๊ฑฐ๋ ๋ชจ๋ธ์ด ๊ฐ ๋จ๊ณ์์ ์ผ๋ง๋ ํ์ ํ๋์ง ๊ฒ์ฌํ๋ ค๋ ๊ฒฝ์ฐ structured_outputs์ logprobs๋ฅผ ์ฌ์ฉํ ์ ์์ต๋๋ค.
๋ชจ๋ธ id "thedrummer/unslopnemo-12b"๋ฅผ ์ฌ์ฉํด api14์ OpenAI ํธํ API๋ฅผ ํตํด ์ด ๋ชจ๋ธ์ ํธ์ถํฉ๋๋ค. ์ธํฐํ์ด์ค๊ฐ OpenAI chat completions ํํ๋ฅผ ๋ฐ๋ฅด๋ฏ๋ก, ๊ธฐ์กด OpenAI ํด๋ผ์ด์ธํธ๋ฅผ api14 ๊ธฐ๋ณธ URL๋ก ์ง์ ํ๊ณ model ํ๋์ ํด๋น id๋ฅผ ์ ๋ฌํ ์ ์์ต๋๋ค. ์์ ๋์ด๋ ์์ฒญ ๋งค๊ฐ๋ณ์๊ฐ ์ง์๋๋ฏ๋ก ํ์์ ๋ฐ๋ผ temperature, top_p, top_k, repetition_penalty, presence_penalty, frequency_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs ๋ฐ structured_outputs๋ฅผ ์ค์ ํ ์ ์์ต๋๋ค. seed ๋งค๊ฐ๋ณ์๋ ํ ์คํธ ์ค ์ฌํ ๊ฐ๋ฅํ ์ํ๋ง์ ์ํ ๋ ์ ์ฉํฉ๋๋ค.
์ง์ ์ปท์คํ๋ฅผ ์ผ๋์ ๋์ญ์์ค. 2024-04-30 ์ดํ์ ๋ด์ฉ์ ๋ชจ๋ธ์ด ํ์ตํ ๋ฒ์ ๋ฐ์ด๋ฏ๋ก, ์ต์ ์ ๋ณด์ ์์กดํ๋ ์์ ์๋ ๋ค๋ฅธ ์ ๊ทผ ๋ฐฉ์์ด ํ์ํ ์ ์์ต๋๋ค. ์ด ๋ชจ๋ธ์ ํ ์คํธ ์ ์ฉ์ด๋ฏ๋ก, ์ ํ๋ฆฌ์ผ์ด์ ์ด ์ด๋ฏธ์ง๋ ์ค๋์ค๋ฅผ ์ฒ๋ฆฌํด์ผ ํ๋ค๋ฉด ๋ค๋ฅธ ๋ชจ๋ธ์ด ๋ ์ ํฉํฉ๋๋ค. ํ ์คํธ ์์ฑ, ์ญํ ๊ทน ๋ฐ ์ฅ๋ฌธ ์ปจํ ์คํธ ๊ธ์ฐ๊ธฐ ์์ ์๋ ์๋ํด ๋ณผ ์ ์๋ ๊ฐ๋จํ ์ต์ ์ ๋๋ค.
TheDrummer: UnslopNemo 12B API ํธ์ถ ๋ฐฉ๋ฒ
- ๋์๋ณด๋์์ API ํค๋ฅผ ๋ง๋์ธ์.
- ์ฌ์ฉํ๋ ์ธ์ด์ ๊ณต์ openai SDK๋ฅผ ์ค์นํ์ธ์.
- baseURL์ https://api14.com/api/v1๋ก, model์ "thedrummer/unslopnemo-12b"๋ก ์ค์ ํ์ธ์.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "thedrummer/unslopnemo-12b",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
์ง์ ํ๋ผ๋ฏธํฐ
frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyrepetition_penaltyseedstopstructured_outputstemperaturetop_ktop_logprobstop_p์ฌ์
- ์ปจํ ์คํธ ๊ธธ์ด
- 1,024,000
- ์ต๋ ์ถ๋ ฅ
- 819,200
- ์ ๋ ฅ
- text
- ์ถ๋ ฅ
- text
- ์ง์ ๊ธฐ์ค์ผ
- 2024-04-30
api14 ์์ฒญ ์ ยท ์ต๊ทผ 7์ผ
TheDrummer: UnslopNemo 12B: ์์ฃผ ๋ฌป๋ ์ง๋ฌธ
- TheDrummer: UnslopNemo 12B API ๋น์ฉ์ ์ผ๋ง์ธ๊ฐ์?
- TheDrummer: UnslopNemo 12B์ ๊ฐ๊ฒฉ์ ์ ๋ ฅ US$1.40 / 100๋ง ํ ํฐ์ ๋๋ค. ์ฑ๊ณตํ ์์ฒญ์ ๋ํด์๋ง USD ์์ก์์ ์ฐจ๊ฐ๋๋ฉฐ, ์คํจํ ์์ฒญ์ ๋ฌด๋ฃ์ ๋๋ค.
- TheDrummer: UnslopNemo 12B์ ์ปจํ ์คํธ ์๋์ฐ๋ ์ผ๋ง์ธ๊ฐ์?
- TheDrummer: UnslopNemo 12B๋(์) ์์ฒญ๋น ์ต๋ 1,024,000 ํ ํฐ์ ์ฝ์ต๋๋ค, ํ๋กฌํํธ, ๋ํ ๊ธฐ๋ก, ๋ฌธ์๋ฅผ ๋ชจ๋ ํฉ์น ์์ ๋๋ค. ์๋ต๋น ์ต๋ 819,200๊ฐ์ ์ถ๋ ฅ ํ ํฐ์ ์์ฑํฉ๋๋ค.
- TheDrummer: UnslopNemo 12B๋(์) ๋ฌด์์ ํ ์ ์๋์?
- TheDrummer: UnslopNemo 12B๋(์) text ์ ๋ ฅ์ ๋ฐ์ text ์ถ๋ ฅ์ ๋ฐํํฉ๋๋ค. ์ง์ ๊ธฐ๋ฅ: ๊ตฌ์กฐํ๋ JSON ์ถ๋ ฅ.
- ์ฝ๋์์ TheDrummer: UnslopNemo 12B๋ฅผ(์) ์ด๋ป๊ฒ ํธ์ถํ๋์?
- ์ด๋ค OpenAI SDK๋ base URL์ https://api14.com/api/v1๋ก ์ง์ ํ๊ณ model์ "thedrummer/unslopnemo-12b"๋ก ์ค์ ํ์ธ์, ๋ค๋ฅธ ์ฝ๋ ๋ณ๊ฒฝ์ ํ์ ์์ต๋๋ค. ์ด ํ์ด์ง์ ์ฝ๋ ํจ๋์์ ๋ฐ๋ก ์ธ ์ ์๋ ์์ ๋ฅผ ๋ณต์ฌํ์ธ์.
- TheDrummer: UnslopNemo 12B์ ๋์์ ๋ฌด์์ธ๊ฐ์?
- ๋น์ทํ ๊ฐ๊ฒฉ๋์ ํ ์คํธ ๋ชจ๋ธ: TheDrummer: Cydonia 24B V4.1, Mistral: Saba, Meta: Llama 3.1 70B Instruct. ๋ชจ๋ ๊ฐ์ API ํค๋ก ์คํ๋๋ฏ๋ก ๋ฌธ์์ด ํ๋๋ง ๋ฐ๊พธ๋ฉด ์ ํ๋ฉ๋๋ค.
TheDrummer: UnslopNemo 12B ์ปค๋ฎค๋ํฐ
์ ํ ํฝ์ด ์ปค๋ฎค๋ํฐ์๋ ์์ง ํ ํฝ์ด ์์ต๋๋ค. TheDrummer: UnslopNemo 12B์ ๋ํ ์ฒซ ํ ํฝ์ ์ด์ด ๋ณด์ธ์.