OpenAI: Text Embedding 3 Small (batch)

OpenAI: Text Embedding 3 Small (batch) adalah model embedding dari OpenAI, yang ditawarkan melalui api14. Model ini termasuk dalam kategori embeddings, dan model id-nya di api14 adalah openai/text-embedding-3-small:batch. OpenAI mendeskripsikan text-embedding-3-small sebagai versi yang lebih baik dan lebih berperforma dari model embedding ada. Embedding adalah representasi numerik dari teks yang dapat digunakan untuk mengukur keterkaitan antara dua potongan teks.

Model ini hanya menerima teks sebagai satu-satunya input dan mengembalikan embedding sebagai satu-satunya output. Panjang konteksnya adalah 8192 token, dan output maksimumnya adalah 7372. Tidak ada parameter yang didukung yang terdaftar untuk model ini, jadi Anda tidak dapat menyesuaikan pengaturan sampling atau generasi melalui permintaan. Sufiks batch pada model id menunjukkan varian batch dari model embedding ini di api14.

Karena model ini menghasilkan embedding dan bukan teks yang dihasilkan, penggunaan praktisnya mengikuti pengukuran kemiripan antar teks. Pekerjaan yang umum meliputi pencarian semantik, di mana Anda melakukan embedding pada kueri dan sekumpulan dokumen lalu memberi peringkat dokumen berdasarkan kedekatannya; pengambilan untuk pipeline retrieval augmented generation, di mana embedding memilih bagian yang relevan untuk diteruskan ke model chat; pengelompokan atau pengelompokan topik dari koleksi teks yang besar; deduplikasi, di mana item yang hampir identik ditemukan dengan membandingkan vektor; dan klasifikasi atau routing, di mana model ringan mengonsumsi embedding tersebut. Konteks 8192 token berarti input individual bisa cukup panjang, sehingga halaman utuh atau bagian yang panjang dapat di-embedding tanpa harus dipisah terlebih dahulu.

Untuk memanggilnya melalui api14, gunakan API yang kompatibel dengan OpenAI dengan model id openai/text-embedding-3-small:batch. Arahkan klien OpenAI yang sudah Anda gunakan ke base URL api14 dan kirim teks Anda ke endpoint embeddings, atau gunakan rute bergaya chat yang setara jika klien Anda mengharapkannya. Karena model ini tidak mencantumkan parameter yang didukung, buat permintaan tetap sederhana: kirim model id dan teks input, lalu baca vektor embedding dari respons. Tidak perlu mengatur temperature, top_p, atau opsi serupa, karena model ini tidak menerimanya.

Satu hal yang perlu diingat adalah model ini hanya menangani input teks dan hanya mengembalikan embedding. Model ini tidak menghasilkan chat completion atau output teks lainnya, jadi jika tugas Anda adalah percakapan, peringkasan, atau pembuatan kode, model chat atau completion adalah pilihan yang lebih tepat. Jika Anda perlu melakukan embedding pada volume teks yang sangat besar, varian batch adalah pilihan yang relevan di sini, sementara model embedding lain mungkin cocok untuk kebutuhan akurasi atau bahasa yang berbeda.