VoyageAI by MongoDB: voyage-4-large

VoyageAI by MongoDB: voyage-4-large adalah model embedding dari Voyage AI, penyedia yang modelnya didistribusikan dengan nama VoyageAI by MongoDB. Model ini berada di kategori embeddings, yang berarti model ini dibuat untuk mengubah teks menjadi vektor, bukan untuk menghasilkan respons chat. Jika Anda memilih model untuk pipeline retrieval atau similarity, inilah jenis model yang Anda evaluasi berdasarkan kualitas embedding, bukan berdasarkan kemampuan percakapan.

Model ini menerima teks sebagai satu-satunya modalitas input dan mengembalikan embeddings sebagai satu-satunya output. Panjang konteksnya 32.000 token, sehingga satu permintaan dapat mencakup dokumen yang cukup panjang atau sekumpulan bagian yang lebih pendek. Penyedia mendeskripsikannya sebagai embedding general-purpose dan multibahasa yang state-of-the-art dan dioptimalkan untuk kualitas retrieval. Model ini menggunakan Matryoshka learning dan quantization-aware training, serta mendukung embeddings pada 2048, 1024, 512, dan 256 dimensi. Output maksimum tercatat 28.800, yang merupakan batas atas pada sisi output embedding dari sebuah permintaan.

Kemampuan tersebut mengarah pada serangkaian use case yang spesifik. Semantic search dan retrieval pada kumpulan dokumen adalah yang paling cocok, karena model ini disetel untuk kualitas retrieval dan dapat melakukan embedding pada bagian yang panjang dalam konteks 32.000 token. Korpus multibahasa juga menjadi target yang wajar, mengingat pelatihan multibahasanya. Karena embeddings dapat dipotong menjadi 2048, 1024, 512, atau 256 dimensi, Anda dapat menukar ukuran vektor dengan penyimpanan dan kecepatan pencarian tergantung pada seberapa besar presisi yang dibutuhkan indeks Anda. Clustering, deduplication, dan similarity scoring pada teks adalah aplikasi alami lainnya, begitu juga membangun indeks vektor yang memasok model generasi terpisah.

Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "voyageai/voyage-4-large". Karena endpoint mengikuti format OpenAI, Anda dapat mengarahkan klien OpenAI yang sudah ada ke api14 dan mengirim permintaan embedding tanpa menulis ulang integrasi Anda. Daftar parameter yang didukung model ini kosong, jadi tidak ada parameter permintaan tambahan yang perlu dikonfigurasi di luar apa yang dibutuhkan panggilan embedding standar. Anggap model id sebagai satu-satunya nilai spesifik model yang perlu Anda set.

Satu batasan praktis yang perlu diingat adalah model ini hanya menangani input teks dan hanya menghasilkan embeddings. Model ini tidak dapat menghasilkan teks, menjawab pertanyaan, atau mengikuti instruksi, jadi aplikasi apa pun yang membutuhkan respons tertulis memerlukan model generasi terpisah di sampingnya. Konteks 32.000 token cukup besar untuk pekerjaan embedding tetapi tetap terbatas, jadi dokumen yang sangat besar perlu dipecah menjadi chunk sebelum embedding. Jika tugas Anda adalah generasi, bukan retrieval, model chat atau completion adalah pilihan yang lebih tepat.