์ฟ ํค๋ฅผ ์ฌ์ฉํฉ๋๋ค. ์ฟ ํค์ ๋ธ๋ผ์ฐ์ ์ ์ฅ์๋ ๋ก๊ทธ์ธ ์ํ๋ฅผ ์ ์งํ๊ณ ํ๊ฒฝ์ค์ ์ ๊ธฐ์ตํฉ๋๋ค. ๋์ํ์๋ฉด ์ฌ์ดํธ ์ด์ฉ ๋ฐฉ์๋ ์ธก์ ํฉ๋๋ค. ์ธ์ ๋ ์ง ํ ์ ์์ต๋๋ค. ์์ธํ ๋ด์ฉ์ ์ฟ ํค ์ ์ฑ ์ ์ฐธ๊ณ ํ์ธ์.
OpenAI: Text Embedding 3 Small (batch)
openai/text-embedding-3-small:batch์ง๊ธ OpenAI: Text Embedding 3 Small (batch) ์ฌ์ฉํด ๋ณด๊ธฐ
์ ๊ฐ๊ฒฉ์ผ๋ก ์์ก์์ ์ฐจ๊ฐ๋ฉ๋๋ค. ์ ๊ณ์ ์ ๋ฌด๋ฃ ์ฌ์ฉ๋์ผ๋ก ์์ํฉ๋๋ค.
๊ฒฐ๊ณผ๊ฐ ์ฌ๊ธฐ์ ํ์๋ฉ๋๋ค.
์ค์
OpenAI: Text Embedding 3 Small (batch) ํ๋์ ๋ณด๊ธฐ
- ์ ๋ ฅ ๊ฐ๊ฒฉ์ด ์๋ฒ ๋ฉ ๋ชจ๋ธ 34๊ฐ์ ์ค์๊ฐ๋ณด๋ค 50% ๋ฎ์ต๋๋ค.
OpenAI: Text Embedding 3 Small (batch) ์๊ฐ
OpenAI: Text Embedding 3 Small (batch)๋ api14๋ฅผ ํตํด ์ ๊ณต๋๋ OpenAI์ ์๋ฒ ๋ฉ ๋ชจ๋ธ์ ๋๋ค. embeddings ์นดํ ๊ณ ๋ฆฌ์ ์ํ๋ฉฐ, api14์์์ ๋ชจ๋ธ id๋ openai/text-embedding-3-small:batch์ ๋๋ค. OpenAI๋ text-embedding-3-small์ ada ์๋ฒ ๋ฉ ๋ชจ๋ธ์ ๊ฐ์ ๋๊ณ ๋ ์ฑ๋ฅ์ด ์ข์ ๋ฒ์ ์ด๋ผ๊ณ ์ค๋ช ํฉ๋๋ค. ์๋ฒ ๋ฉ์ ๋ ํ ์คํธ ์กฐ๊ฐ ์ฌ์ด์ ๊ด๋ จ์ฑ์ ์ธก์ ํ๋ ๋ฐ ์ฌ์ฉํ ์ ์๋ ํ ์คํธ์ ์์น์ ํํ์ ๋๋ค.
์ด ๋ชจ๋ธ์ ํ ์คํธ๋ฅผ ์ ์ผํ ์ ๋ ฅ์ผ๋ก ๋ฐ๊ณ ์๋ฒ ๋ฉ์ ์ ์ผํ ์ถ๋ ฅ์ผ๋ก ๋ฐํํฉ๋๋ค. ์ปจํ ์คํธ ๊ธธ์ด๋ 8192 ํ ํฐ์ด๊ณ , ์ต๋ ์ถ๋ ฅ์ 7372์ ๋๋ค. ์ด ๋ชจ๋ธ์ ๋ํด ๋์ด๋ ์ง์ ํ๋ผ๋ฏธํฐ๊ฐ ์์ผ๋ฏ๋ก ์์ฒญ์ ํตํด ์ํ๋ง์ด๋ ์์ฑ ์ค์ ์ ์กฐ์ ํ ์ ์์ต๋๋ค. ๋ชจ๋ธ id์ batch ์ ๋ฏธ์ฌ๋ api14์์ ์ด ์๋ฒ ๋ฉ ๋ชจ๋ธ์ ๋ฐฐ์น ๋ณํ์ ๋ํ๋ ๋๋ค.
์์ฑ๋ ํ ์คํธ๊ฐ ์๋๋ผ ์๋ฒ ๋ฉ์ ์์ฑํ๊ธฐ ๋๋ฌธ์, ์ค์ ์ฉ๋๋ ํ ์คํธ ๊ฐ์ ์ ์ฌ์ฑ์ ์ธก์ ํ๋ ๋ฐ์ ๋์ต๋๋ค. ์ผ๋ฐ์ ์ธ ์์ ์ผ๋ก๋ ์ฟผ๋ฆฌ์ ๋ฌธ์ ์งํฉ์ ์๋ฒ ๋ฉํ๊ณ ๋ฌธ์๋ฅผ ๊ทผ์ ๋๋ก ์์๋ฅผ ๋งค๊ธฐ๋ ์๋งจํฑ ๊ฒ์, ์๋ฒ ๋ฉ์ด ์ฑํ ๋ชจ๋ธ์ ์ ๋ฌํ ๊ด๋ จ ๊ตฌ์ ์ ์ ํํ๋ ๊ฒ์ ์ฆ๊ฐ ์์ฑ ํ์ดํ๋ผ์ธ์ ์ํ ๊ฒ์, ๋๊ท๋ชจ ํ ์คํธ ์ปฌ๋ ์ ์ ํด๋ฌ์คํฐ๋ง ๋๋ ์ฃผ์ ๊ทธ๋ฃนํ, ๋ฒกํฐ๋ฅผ ๋น๊ตํ์ฌ ๊ฑฐ์ ๋์ผํ ํญ๋ชฉ์ ์ฐพ๋ ์ค๋ณต ์ ๊ฑฐ, ๊ฒฝ๋ ๋ชจ๋ธ์ด ์๋ฒ ๋ฉ์ ์๋นํ๋ ๋ถ๋ฅ ๋๋ ๋ผ์ฐํ ์ด ์์ต๋๋ค. 8192 ํ ํฐ ์ปจํ ์คํธ๋ ๊ฐ๋ณ ์ ๋ ฅ์ด ์๋นํ ๊ธธ ์ ์์์ ์๋ฏธํ๋ฏ๋ก, ์ ์ฒด ํ์ด์ง๋ ๊ธด ๊ตฌ์ ์ ๋จผ์ ๋๋์ง ์๊ณ ๋ ์๋ฒ ๋ฉํ ์ ์์ต๋๋ค.
api14๋ฅผ ํตํด ํธ์ถํ๋ ค๋ฉด ๋ชจ๋ธ id openai/text-embedding-3-small:batch์ ํจ๊ป OpenAI ํธํ API๋ฅผ ์ฌ์ฉํ์ธ์. ๊ธฐ์กด OpenAI ํด๋ผ์ด์ธํธ๋ฅผ api14 ๊ธฐ๋ณธ URL๋ก ์ง์ ํ๊ณ ํ ์คํธ๋ฅผ embeddings ์๋ํฌ์ธํธ๋ก ๋ณด๋ด๊ฑฐ๋, ํด๋ผ์ด์ธํธ๊ฐ ์ฑํ ์คํ์ผ ๊ฒฝ๋ก๋ฅผ ๊ธฐ๋ํ๋ค๋ฉด ๋๋ฑํ ๊ฒฝ๋ก๋ฅผ ์ฌ์ฉํ์ธ์. ๋ชจ๋ธ์ ๋์ด๋ ์ง์ ํ๋ผ๋ฏธํฐ๊ฐ ์์ผ๋ฏ๋ก ์์ฒญ์ ๋จ์ํ๊ฒ ์ ์งํ์ธ์. ๋ชจ๋ธ id์ ์ ๋ ฅ ํ ์คํธ๋ฅผ ๋ณด๋ด๊ณ ์๋ต์์ ์๋ฒ ๋ฉ ๋ฒกํฐ๋ฅผ ์ฝ์ผ์ธ์. ์ด ๋ชจ๋ธ์ temperature, top_p ๋๋ ์ ์ฌํ ์ต์ ์ ํ์ฉํ์ง ์์ผ๋ฏ๋ก ์ค์ ํ ํ์๊ฐ ์์ต๋๋ค.
ํ ๊ฐ์ง ์ ์ํ ์ ์ ์ด ๋ชจ๋ธ์ด ํ ์คํธ ์ ๋ ฅ๋ง ์ฒ๋ฆฌํ๊ณ ์๋ฒ ๋ฉ๋ง ๋ฐํํ๋ค๋ ๊ฒ์ ๋๋ค. ์ฑํ ์์ฑ์ด๋ ๋ค๋ฅธ ํ ์คํธ ์ถ๋ ฅ์ ์์ฑํ์ง ์์ผ๋ฏ๋ก, ์์ ์ด ๋ํ, ์์ฝ ๋๋ ์ฝ๋ ์์ฑ์ด๋ผ๋ฉด ์ฑํ ๋๋ ์์ฑ ๋ชจ๋ธ์ด ๋ ์ ํฉํฉ๋๋ค. ๋งค์ฐ ๋ง์ ์์ ํ ์คํธ๋ฅผ ์๋ฒ ๋ฉํด์ผ ํ๋ค๋ฉด ์ฌ๊ธฐ์๋ ๋ฐฐ์น ๋ณํ์ด ๊ด๋ จ ์ ํ์ด๋ฉฐ, ๋ค๋ฅธ ์๋ฒ ๋ฉ ๋ชจ๋ธ์ ๋ค๋ฅธ ์ ํ๋๋ ์ธ์ด ์๊ตฌ์ ๋ง์ ์ ์์ต๋๋ค.
OpenAI: Text Embedding 3 Small (batch) API ํธ์ถ ๋ฐฉ๋ฒ
- ๋์๋ณด๋์์ API ํค๋ฅผ ๋ง๋์ธ์.
- ์ฌ์ฉํ๋ ์ธ์ด์ ๊ณต์ openai SDK๋ฅผ ์ค์นํ์ธ์.
- baseURL์ https://api14.com/api/v1๋ก, model์ "openai/text-embedding-3-small:batch"๋ก ์ค์ ํ์ธ์.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "openai/text-embedding-3-small:batch",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
์ฌ์
- ์ปจํ ์คํธ ๊ธธ์ด
- 8,192
- ์ต๋ ์ถ๋ ฅ
- 7,372
- ์ ๋ ฅ
- text
- ์ถ๋ ฅ
- embeddings
api14 ์์ฒญ ์ ยท ์ต๊ทผ 7์ผ
OpenAI: Text Embedding 3 Small (batch): ์์ฃผ ๋ฌป๋ ์ง๋ฌธ
- OpenAI: Text Embedding 3 Small (batch) API ๋น์ฉ์ ์ผ๋ง์ธ๊ฐ์?
- OpenAI: Text Embedding 3 Small (batch)์ ๊ฐ๊ฒฉ์ ์ ๋ ฅ US$0.04 / 100๋ง ํ ํฐ์ ๋๋ค. ์ฑ๊ณตํ ์์ฒญ์ ๋ํด์๋ง USD ์์ก์์ ์ฐจ๊ฐ๋๋ฉฐ, ์คํจํ ์์ฒญ์ ๋ฌด๋ฃ์ ๋๋ค.
- OpenAI: Text Embedding 3 Small (batch)์ ์ปจํ ์คํธ ์๋์ฐ๋ ์ผ๋ง์ธ๊ฐ์?
- OpenAI: Text Embedding 3 Small (batch)๋(์) ์์ฒญ๋น ์ต๋ 8,192 ํ ํฐ์ ์ฝ์ต๋๋ค, ํ๋กฌํํธ, ๋ํ ๊ธฐ๋ก, ๋ฌธ์๋ฅผ ๋ชจ๋ ํฉ์น ์์ ๋๋ค. ์๋ต๋น ์ต๋ 7,372๊ฐ์ ์ถ๋ ฅ ํ ํฐ์ ์์ฑํฉ๋๋ค.
- OpenAI: Text Embedding 3 Small (batch)๋(์) ๋ฌด์์ ํ ์ ์๋์?
- OpenAI: Text Embedding 3 Small (batch)๋(์) text ์ ๋ ฅ์ ๋ฐ์ embeddings ์ถ๋ ฅ์ ๋ฐํํฉ๋๋ค.
- ์ฝ๋์์ OpenAI: Text Embedding 3 Small (batch)๋ฅผ(์) ์ด๋ป๊ฒ ํธ์ถํ๋์?
- ์ด๋ค OpenAI SDK๋ base URL์ https://api14.com/api/v1๋ก ์ง์ ํ๊ณ model์ "openai/text-embedding-3-small:batch"๋ก ์ค์ ํ์ธ์, ๋ค๋ฅธ ์ฝ๋ ๋ณ๊ฒฝ์ ํ์ ์์ต๋๋ค. ์ด ํ์ด์ง์ ์ฝ๋ ํจ๋์์ ๋ฐ๋ก ์ธ ์ ์๋ ์์ ๋ฅผ ๋ณต์ฌํ์ธ์.
- OpenAI: Text Embedding 3 Small (batch)์ ๋์์ ๋ฌด์์ธ๊ฐ์?
- ๋น์ทํ ๊ฐ๊ฒฉ๋์ ์๋ฒ ๋ฉ ๋ชจ๋ธ: Thenlper: GTE-Large, Intfloat: E5-Large-v2, Intfloat: Multilingual-E5-Large. ๋ชจ๋ ๊ฐ์ API ํค๋ก ์คํ๋๋ฏ๋ก ๋ฌธ์์ด ํ๋๋ง ๋ฐ๊พธ๋ฉด ์ ํ๋ฉ๋๋ค.
OpenAI: Text Embedding 3 Small (batch) ์ปค๋ฎค๋ํฐ
์ ํ ํฝ์ด ์ปค๋ฎค๋ํฐ์๋ ์์ง ํ ํฝ์ด ์์ต๋๋ค. OpenAI: Text Embedding 3 Small (batch)์ ๋ํ ์ฒซ ํ ํฝ์ ์ด์ด ๋ณด์ธ์.