BAAI: bge-m3

BAAI: bge-m3 adalah model embedding dari BAAI, Beijing Academy of Artificial Intelligence. Model ini termasuk dalam kategori embeddings, yang berarti model ini dibangun untuk mengubah teks menjadi vektor, bukan untuk menghasilkan respons chat. Jika aplikasi Anda membutuhkan model yang menjawab pertanyaan atau menulis teks, ini bukan model seperti itu; model ini hadir untuk merepresentasikan teks secara numerik agar sistem lain dapat membandingkan, mencari, dan mengambilnya.

Model ini menerima teks sebagai satu-satunya input dan menghasilkan embeddings sebagai satu-satunya output. Menurut provider, model ini mengodekan kalimat, paragraf, dan dokumen panjang ke dalam ruang vektor dense 1024 dimensi, dengan tujuan memberikan embeddings semantik berkualitas tinggi. Model ini dioptimalkan untuk retrieval multibahasa, pencarian semantik, dan aplikasi dengan konteks besar. Context window-nya adalah 8194 token, dan output maksimumnya adalah 7374, sehingga bagian teks yang cukup panjang dapat dikodekan dalam satu permintaan alih-alih dipecah menjadi banyak fragmen kecil.

Kemampuan tersebut mengarah pada serangkaian penggunaan praktis yang jelas. Pencarian semantik adalah yang paling langsung: kodekan dokumen Anda sekali, kodekan kueri pengguna saat permintaan, lalu peringkatkan dokumen berdasarkan kemiripan vektor alih-alih tumpang tindih kata kunci. Retrieval augmented generation adalah penggunaan lain, di mana bge-m3 menyediakan bagian retrieval dengan menemukan bagian yang secara semantik dekat dengan sebuah pertanyaan, yang kemudian diteruskan ke model generatif terpisah. Karena model ini multibahasa, indeks yang sama dapat melayani kueri dan dokumen dalam berbagai bahasa, yang cocok untuk pencarian lintas bahasa, deduplikasi, dan pengelompokan koleksi teks. Context window yang panjang juga membantu ketika satu potongan dokumen berukuran besar, karena lebih sedikit potongan berarti lebih sedikit pemecahan makna di antara vektor.

Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "baai/bge-m3". Karena antarmukanya mengikuti format OpenAI, Anda dapat mengarahkan klien OpenAI yang sudah ada ke base URL api14 dan mengirim teks Anda ke endpoint embeddings dengan id tersebut, tanpa menulis ulang integrasi Anda. Model ini tidak mencantumkan parameter yang didukung di luar apa yang dibutuhkan endpoint, jadi buat permintaan tetap sederhana: berikan teks input dan model id, lalu baca vektor yang dikembalikan. Tidak ada kontrol sampling seperti temperature yang perlu disetel di sini, karena outputnya adalah data embedding deterministik, bukan token yang dihasilkan.

Satu hal yang perlu diingat adalah cakupannya. bge-m3 hanya menerima teks dan hanya mengembalikan embeddings, jadi tugas seperti peringkasan, klasifikasi melalui generasi, atau balasan percakapan membutuhkan model lain di sampingnya. Konteks 8194 token cukup besar untuk pekerjaan retrieval tetapi tetap terbatas, jadi dokumen yang sangat besar harus dipotong menjadi beberapa bagian sebelum dikodekan. Dalam batasan tersebut, model ini adalah pilihan yang wajar ketika masalah Anda pada dasarnya adalah tentang merepresentasikan dan membandingkan teks.