์ฟ ํค๋ฅผ ์ฌ์ฉํฉ๋๋ค. ์ฟ ํค์ ๋ธ๋ผ์ฐ์ ์ ์ฅ์๋ ๋ก๊ทธ์ธ ์ํ๋ฅผ ์ ์งํ๊ณ ํ๊ฒฝ์ค์ ์ ๊ธฐ์ตํฉ๋๋ค. ๋์ํ์๋ฉด ์ฌ์ดํธ ์ด์ฉ ๋ฐฉ์๋ ์ธก์ ํฉ๋๋ค. ์ธ์ ๋ ์ง ํ ์ ์์ต๋๋ค. ์์ธํ ๋ด์ฉ์ ์ฟ ํค ์ ์ฑ ์ ์ฐธ๊ณ ํ์ธ์.
Together: Tev1 4B Experimental
togethercomputer/tev1-4b-experimental์ง๊ธ Together: Tev1 4B Experimental ์ฌ์ฉํด ๋ณด๊ธฐ
์ ๊ฐ๊ฒฉ์ผ๋ก ์์ก์์ ์ฐจ๊ฐ๋ฉ๋๋ค. ์ ๊ณ์ ์ ๋ฌด๋ฃ ์ฌ์ฉ๋์ผ๋ก ์์ํฉ๋๋ค.
๊ฒฐ๊ณผ๊ฐ ์ฌ๊ธฐ์ ํ์๋ฉ๋๋ค.
์ค์
Together: Tev1 4B Experimental ํ๋์ ๋ณด๊ธฐ
- ์ ๋ ฅ ๊ฐ๊ฒฉ์ด ํ๋จ ๋ชจ๋ธ 25๊ฐ์ ์ค์๊ฐ๊ณผ ๋น์ทํฉ๋๋ค.
- 32,768 ํ ํฐ์ ์ปจํ ์คํธ ์๋์ฐ, ๊ธด ๋ฌธ์์ ๋ฉํฐํด ๋ํ์ ์ถฉ๋ถํฉ๋๋ค.
- ์ผ๋ฐ์ ์ธ ์์ฒญ(์ ๋ ฅ 1,000 / ์ถ๋ ฅ 500 ํ ํฐ)์ ๋น์ฉ์ ์ฝ US$0.000147์ ๋๋ค.
Together: Tev1 4B Experimental ์๊ฐ
Together: Tev1 4B Experimental์ Together AI์ ์คํ์ ๊ฒฐ์ ๋ชจ๋ธ์ ๋๋ค. ์ด๋ Qwen3.5-4B๋ฅผ ์ง๋ ๋ฏธ์ธ ์กฐ์ ํ ๊ฒ์ผ๋ก, ๊ตฌ์กฐํ๋ ์ํ, ์ง๋ฌธ, ์ต์ ๋ชฉ๋ก์์ ํ๋์ ์ต์ ์ ์ ํํ๋๋ก ํ๋ จ๋์์ต๋๋ค. ์ด ๋ชจ๋ธ์ decisions ์นดํ ๊ณ ๋ฆฌ์ ์ํ๋ฉฐ, ๊ทธ ์ด๋ฆ์ ์ํ๋ฅผ ๋ฐ์ํฉ๋๋ค. ์ฆ, ๋ฒ์ฉ ์ฑํ ๋ชจ๋ธ์ด ์๋๋ผ ์คํ์ ๋ฆด๋ฆฌ์ค์ ๋๋ค.
์ด ๋ชจ๋ธ์ ํ ์คํธ๋ง ์ ๋ ฅ์ผ๋ก ๋ฐ๊ณ ๊ฒฐ์ ๋ง ์ถ๋ ฅ์ผ๋ก ์์ฑํฉ๋๋ค. ์ปจํ ์คํธ ์๋์ฐ๋ 32768 ํ ํฐ์ผ๋ก, ๋จ์ผ ์์ฒญ์ ๊ตฌ์กฐํ๋ ์ํ, ์ง๋ฌธ, 2~24๊ฐ์ ํ๋ณด ์ต์ ๋ชฉ๋ก์ ๋ด๊ธฐ์ ์ถฉ๋ถํฉ๋๋ค. ์ต๋ ์ถ๋ ฅ์ 8 ํ ํฐ์ผ๋ก, ์ด๋ ์์ ์ ํํ์ ๋ง์ต๋๋ค. ๋ชจ๋ธ์ ์์ธ์ด๊ฐ ์๋๋ผ ์ ํ์ ๋ฐํํฉ๋๋ค. ์ฌ๊ธฐ์๋ ์์ ํ์ ํ ์คํธ ์์ฑ์ด ์์ผ๋ฉฐ, ์ด๋ฏธ์ง, ์ค๋์ค ๋๋ ๊ธฐํ ๋นํ ์คํธ ์ ๋ ฅ๋ ์์ต๋๋ค.
์ถ๋ ฅ์ด ์ ๊ณต๋ ๋ชฉ๋ก์์ ๋์ถ๋ ๋จ์ผ ๊ฒฐ์ ์ด๊ธฐ ๋๋ฌธ์, ์ค์ฉ์ ์ธ ์ฌ์ฉ ์ฌ๋ก๋ ์์คํ ์ด ์๋ ค์ง ์งํฉ์์ ํ๋์ ์ต์ ์ ์ ํํด์ผ ํ๋ ๊ฒฝ์ฐ์ ๋๋ค. ์๋ก๋ ์์ฒญ์ ์ฌ๋ฐ๋ฅธ ํธ๋ค๋ฌ๋ก ๋ผ์ฐํ ํ๊ธฐ, ๊ณ ์ ๋ ๋ถ๋ฅ ์ฒด๊ณ์์ ์นดํ ๊ณ ๋ฆฌ๋ ๋ ์ด๋ธ ์ ํํ๊ธฐ, ์ํฌํ๋ก์์ ๋ค์ ์์ ์ ํํ๊ธฐ, ์์ด์ ํธ ๋ฃจํ์์ ๋ถ๊ธฐ ํด๊ฒฐํ๊ธฐ ๋ฑ์ด ์์ต๋๋ค. ๊ตฌ์กฐํ๋ ์ํ์ ์ง๋ฌธ์ ๋ชจ๋ธ์ ํ์ํ ์ปจํ ์คํธ๋ฅผ ์ ๊ณตํ๊ณ , ์ต์ ๋ชฉ๋ก์ ๋ต๋ณ ๊ณต๊ฐ์ ์ ํํ๋ฏ๋ก, ๊ฒฐ๊ณผ๋ ์ฐ๋ฌธ์ ํ์ฑํ ํ์ ์์ด ๋ค์ด์คํธ๋ฆผ ์ฝ๋์์ ์ง์ ์๋นํ ์ ์์ต๋๋ค.
๋ชจ๋ธ ID "togethercomputer/tev1-4b-experimental"์ ์ฌ์ฉํ์ฌ api14์ OpenAI ํธํ API๋ฅผ ํตํด ๋ชจ๋ธ์ ํธ์ถํฉ๋๋ค. ์ธํฐํ์ด์ค๊ฐ OpenAI ์ฑํ ์์ฑ ํํ๋ฅผ ๋ฐ๋ฅด๋ฏ๋ก, ์ผ๋ฐ์ ์ธ ์์ฒญ ๋ณธ๋ฌธ์ ์ํ, ์ง๋ฌธ, ์ต์ ์ ํ ์คํธ ์ ๋ ฅ์ผ๋ก ๋ณด๋ด๊ณ ์๋ต์์ ๊ฒฐ์ ์ ์ฝ์ต๋๋ค. ์ด ๋ชจ๋ธ์ ํ์ค ๋งค๊ฐ๋ณ์ ์ธ์ ์ถ๊ฐ ์์ฒญ ๋งค๊ฐ๋ณ์๋ฅผ ์ง์ํ์ง ์์ผ๋ฏ๋ก, ์กฐ์ ํ temperature, top_p ๋๋ ์ ์ฌํ ์ํ๋ง ์ ์ด๊ฐ ์์ต๋๋ค. ์ต๋ ์ถ๋ ฅ์ด 8 ํ ํฐ์ด๋ฏ๋ก ์๋ต์ ์ค๊ณ์ ์งง์ต๋๋ค.
์ด ๋ชจ๋ธ์ ์ต์ ์งํฉ์ด ์ ํ๋ ๊ฒฐ์ ์์ ์ ์ ํฉํ๋ฉฐ, ๊ฐ๋ฐฉํ ๋ํ, ์ฅ๋ฌธ ์์ฑ ๋๋ ๋๊ตฌ ์ค์ฌ ์ถ๋ก ์๋ ์ ํฉํ์ง ์์ต๋๋ค. ์์ ์ ์์ฑ๋ ์ฐ๋ฌธ, ๋ค๋จ๊ณ ์ค๋ช ๋๋ ํ ์คํธ ์ด์ธ์ ์ ๋ ฅ์ด ํ์ํ๋ค๋ฉด ๋ค๋ฅธ ๋ชจ๋ธ์ด ๋ ์ ํฉํฉ๋๋ค. 32768 ํ ํฐ ์ปจํ ์คํธ์ 2~24๊ฐ ์ต์ ๋ฒ์๋ ์ด ๋ชจ๋ธ์ด ํ๋ จ๋ ๋ฌธ์ ์ ํํ๋ฅผ ์ ์ํ๋ฏ๋ก, ์ํ์ ์ง๋ฌธ์ ๊ฐ๊ฒฐํ๊ฒ ์ ์งํ๊ณ ์ต์ ๋ชฉ๋ก์ ํด๋น ๋ฒ์ ๋ด๋ก ์ ์งํ์ธ์.
Together: Tev1 4B Experimental API ํธ์ถ ๋ฐฉ๋ฒ
- ๋์๋ณด๋์์ API ํค๋ฅผ ๋ง๋์ธ์.
- ์ฌ์ฉํ๋ ์ธ์ด์ ๊ณต์ openai SDK๋ฅผ ์ค์นํ์ธ์.
- baseURL์ https://api14.com/api/v1๋ก, model์ "togethercomputer/tev1-4b-experimental"๋ก ์ค์ ํ์ธ์.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/decisions", { body: {
"model": "togethercomputer/tev1-4b-experimental",
"state": "Customer: I was charged twice for my order and want my money back.",
"questions": {
"team": {
"type": "choice",
"instructions": "Which team should handle this message?",
"criteria": {
"billing": "Payments, refunds, invoices",
"support": "Product questions and bugs",
"sales": "Pricing and new purchases"
}
},
"urgent": {
"type": "noul",
"instructions": "Does this need a reply today?",
"criteria": {
"true": "Money, outage or legal risk",
"false": "Can wait"
}
}
}
} });
console.log(result.answers);
์ฌ์
- ์ปจํ ์คํธ ๊ธธ์ด
- 32,768
- ์ต๋ ์ถ๋ ฅ
- 8
- ์ ๋ ฅ
- text
- ์ถ๋ ฅ
- decisions
api14 ์์ฒญ ์ ยท ์ต๊ทผ 7์ผ
Together: Tev1 4B Experimental: ์์ฃผ ๋ฌป๋ ์ง๋ฌธ
- Together: Tev1 4B Experimental API ๋น์ฉ์ ์ผ๋ง์ธ๊ฐ์?
- Together: Tev1 4B Experimental์ ๊ฐ๊ฒฉ์ ์ ๋ ฅ US$0.15 / 100๋ง ํ ํฐ์ ๋๋ค. ์ฑ๊ณตํ ์์ฒญ์ ๋ํด์๋ง USD ์์ก์์ ์ฐจ๊ฐ๋๋ฉฐ, ์คํจํ ์์ฒญ์ ๋ฌด๋ฃ์ ๋๋ค.
- Together: Tev1 4B Experimental์ ์ปจํ ์คํธ ์๋์ฐ๋ ์ผ๋ง์ธ๊ฐ์?
- Together: Tev1 4B Experimental๋(์) ์์ฒญ๋น ์ต๋ 32,768 ํ ํฐ์ ์ฝ์ต๋๋ค, ํ๋กฌํํธ, ๋ํ ๊ธฐ๋ก, ๋ฌธ์๋ฅผ ๋ชจ๋ ํฉ์น ์์ ๋๋ค. ์๋ต๋น ์ต๋ 8๊ฐ์ ์ถ๋ ฅ ํ ํฐ์ ์์ฑํฉ๋๋ค.
- Together: Tev1 4B Experimental๋(์) ๋ฌด์์ ํ ์ ์๋์?
- Together: Tev1 4B Experimental๋(์) text ์ ๋ ฅ์ ๋ฐ์ decisions ์ถ๋ ฅ์ ๋ฐํํฉ๋๋ค.
- ์ฝ๋์์ Together: Tev1 4B Experimental๋ฅผ(์) ์ด๋ป๊ฒ ํธ์ถํ๋์?
- ์ด๋ค OpenAI SDK๋ base URL์ https://api14.com/api/v1๋ก ์ง์ ํ๊ณ model์ "togethercomputer/tev1-4b-experimental"๋ก ์ค์ ํ์ธ์, ๋ค๋ฅธ ์ฝ๋ ๋ณ๊ฒฝ์ ํ์ ์์ต๋๋ค. ์ด ํ์ด์ง์ ์ฝ๋ ํจ๋์์ ๋ฐ๋ก ์ธ ์ ์๋ ์์ ๋ฅผ ๋ณต์ฌํ์ธ์.
- Together: Tev1 4B Experimental์ ๋์์ ๋ฌด์์ธ๊ฐ์?
- ๋น์ทํ ๊ฐ๊ฒฉ๋์ ํ๋จ ๋ชจ๋ธ: TypeSafe: Jev 1.14, Microsoft: Microsoft-Decision-1, Jared Palmer: Kev 4B. ๋ชจ๋ ๊ฐ์ API ํค๋ก ์คํ๋๋ฏ๋ก ๋ฌธ์์ด ํ๋๋ง ๋ฐ๊พธ๋ฉด ์ ํ๋ฉ๋๋ค.
Together: Tev1 4B Experimental ์ปค๋ฎค๋ํฐ
์ ํ ํฝ์ด ์ปค๋ฎค๋ํฐ์๋ ์์ง ํ ํฝ์ด ์์ต๋๋ค. Together: Tev1 4B Experimental์ ๋ํ ์ฒซ ํ ํฝ์ ์ด์ด ๋ณด์ธ์.