Thenlper: GTE-Large

Thenlper: GTE-Large adalah model embedding dari Thenlper, yang terdaftar di api14 dengan model id thenlper/gte-large. Model ini berada di kategori embeddings, yang berarti tugasnya bukan menghasilkan balasan chat melainkan mengubah teks menjadi vektor yang dapat Anda simpan, bandingkan, dan telusuri. Jika aplikasi Anda bergantung pada kemiripan semantik alih-alih generasi terbuka, inilah jenis model yang akan Anda evaluasi.

Model ini menerima input teks dan menghasilkan embeddings sebagai output. Menurut deskripsi provider, model ini mengubah kalimat, paragraf, dan dokumen dengan panjang sedang berbahasa Inggris menjadi ruang vektor padat 1024 dimensi, dengan tujuan yang dinyatakan yaitu embeddings semantik berkualitas tinggi yang dioptimalkan untuk information retrieval, semantic textual similarity, dan reranking. Context window-nya adalah 512 token, dan output maksimumnya adalah 460. Karena modalitas inputnya hanya teks, tidak ada penanganan gambar atau audio di sini, dan outputnya berupa vektor bukan prosa.

Kemampuan tersebut mengarah pada serangkaian use case yang cukup spesifik. Information retrieval adalah yang paling jelas: embed dokumen Anda sekali, embed query pengguna saat permintaan, lalu peringkatkan berdasarkan kemiripan vektor. Semantic textual similarity mengikuti secara langsung, berguna untuk deduplikasi, clustering, atau pencocokan parafrase yang berbagi sedikit kosakata. Reranking juga disebutkan dalam deskripsi provider, sehingga Anda dapat menggunakan model ini untuk menilai ulang daftar pendek kandidat yang dihasilkan oleh retriever tahap pertama yang lebih murah. Context 512 token cocok untuk kalimat, paragraf, dan dokumen dengan panjang sedang, jadi memotong materi yang lebih panjang menjadi chunk sebelum embedding adalah pola yang diharapkan.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id thenlper/gte-large. Karena API mengikuti format OpenAI, Anda mengarahkan klien yang sudah ada ke base URL api14 dan meneruskan id tersebut dalam permintaan. Daftar parameter yang didukung untuk model ini kosong, jadi tidak ada parameter permintaan tambahan yang perlu diatur selain yang dibutuhkan endpoint; Anda mengirim teks dan membaca embedding dari respons. Tidak ada yang perlu disetel di sisi permintaan, yang membuat integrasi tetap sederhana jika Anda sudah memiliki pipeline embeddings.

Batasan utama yang perlu diperhitungkan adalah context window 512 token. Dokumen panjang perlu dipecah menjadi chunk, dan desain retrieval apa pun harus memperhitungkan hal itu. Model ini dijelaskan bekerja dengan teks bahasa Inggris, jadi bahasa lain berada di luar cakupan deskripsi provider. Dan karena model ini hanya menghasilkan embeddings, model ini tidak dapat menjawab pertanyaan atau menulis teks sendiri; jika Anda membutuhkan generasi, Anda akan memasangkan model ini dengan model bahasa terpisah alih-alih menggunakannya sendiri.