Intfloat: E5-Large-v2

Intfloat: E5-Large-v2 adalah model embeddings dari Intfloat. Model ini termasuk dalam kategori embeddings, yang berarti tugasnya adalah mengubah teks menjadi vektor, bukan menghasilkan respons chat. Provider mendeskripsikannya sebagai model yang memetakan kalimat, paragraf, dan dokumen berbahasa Inggris ke ruang vektor padat 1024 dimensi, dengan tujuan embeddings semantik berakurasi tinggi. Jika aplikasi Anda membutuhkan representasi teks yang menangkap makna, bukan jawaban tertulis, inilah jenis model yang Anda gunakan.

Model ini menerima teks sebagai satu-satunya modalitas input dan menghasilkan embeddings sebagai satu-satunya modalitas output. Panjang konteksnya adalah 512 token, jadi setiap permintaan dibatasi pada rentang teks yang cukup pendek, dan output maksimumnya adalah 460. Tidak ada input gambar, audio, atau non-teks lainnya, dan tidak ada prosa yang dihasilkan di sisi output. Semua yang dikembalikan model adalah vektor, yang kemudian Anda simpan, bandingkan, atau masukkan ke tahap lain dalam pipeline Anda.

Karakteristik tersebut mengarah pada serangkaian penggunaan tertentu. Retrieval adalah yang paling jelas: embed dokumen Anda sekali, embed query saat permintaan, dan bandingkan vektor untuk menemukan bagian yang paling dekat. Pencarian semantik bekerja dengan cara yang sama, mencocokkan berdasarkan makna, bukan kata kunci persis. Provider juga mencantumkan reranking dan penilaian similarity, sehingga Anda dapat menggunakan vektor untuk mengurutkan ulang hasil kandidat atau mengukur seberapa dekat dua potong teks. Karena vektornya 1024 dimensi dan padat, vektor tersebut cocok untuk disimpan dalam indeks vektor dan untuk perbandingan cosine atau dot-product.

Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "intfloat/e5-large-v2". Karena endpoint mengikuti format OpenAI, Anda dapat mengarahkan klien OpenAI yang sudah ada ke api14 dan mengirim teks Anda dengan cara biasa, lalu membaca embedding dari respons. Model ini tidak mendukung parameter permintaan tambahan, jadi tidak ada apa pun di luar field permintaan standar yang perlu dikonfigurasi. Jaga setiap input tetap dalam panjang konteks 512 token, dan perkirakan outputnya adalah embedding itu sendiri.

Batasan utama yang perlu direncanakan adalah jendela 512 token tersebut. Dokumen panjang perlu dipecah menjadi chunk sebelum di-embed, dan Anda harus memutuskan bagaimana menggabungkan atau menyimpan vektor chunk tersebut. Model ini juga berfokus pada bahasa Inggris sesuai deskripsi provider, jadi teks dalam bahasa lain mungkin tidak ter-embed dengan andal. Jika tugas Anda adalah generasi teks, percakapan, atau apa pun yang membutuhkan respons tertulis, model embeddings adalah alat yang salah dan model generatif akan lebih cocok.