Qwen3 Reranker 8B

Qwen3 Reranker 8B adalah model reranking teks dari Qwen, keluarga model dari Alibaba Cloud, dan dibangun di atas arsitektur Qwen3. Kategori utamanya adalah rerank, dan itu satu-satunya kategori yang dicakupnya. Alih-alih menghasilkan prosa, model ini mengevaluasi pasangan query-document dan menghasilkan skor relevansi, yang menempatkannya pada tahap retrieval dalam pipeline pencarian atau RAG, bukan pada tahap generation.

Model ini menerima teks sebagai input dan mengembalikan output rerank, yaitu skor relevansi untuk setiap pasangan query-document yang Anda kirimkan. Panjang konteksnya 40.960 token, dan output maksimumnya 36.864. Tidak ada parameter request yang didukung yang terdaftar selain yang diterima endpoint itu sendiri, jadi Anda tidak perlu mengharapkan tombol penyetelan seperti temperature atau top_p untuk mengubah perilakunya. Tugasnya sempit dan tetap: menilai seberapa baik sebuah dokumen cocok dengan sebuah query.

Kesempitan itu justru tujuannya. Pola yang umum adalah penyiapan retrieval dua tahap. Retriever tahap pertama yang cepat, baik itu vector search, BM25, maupun hybrid, mengambil beberapa puluh atau beberapa ratus dokumen kandidat untuk sebuah query. Qwen3 Reranker 8B kemudian menilai setiap kandidat terhadap query, dan Anda mengurutkan ulang daftar berdasarkan skor tersebut sebelum meneruskan hasil teratas ke model generation. Ini meningkatkan kualitas apa yang dilihat generator, yang penting dalam sistem RAG, pencarian dokumen di atas basis pengetahuan internal, dan pipeline apa pun di mana retriever tahap pertama mengembalikan hasil yang relevansinya longgar. Model ini juga berguna untuk pengurutan bergaya deduplikasi dan untuk mengevaluasi kualitas retrieval secara offline, karena skornya memberi Anda sinyal yang konsisten di seluruh kumpulan kandidat.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "qwen/qwen3-reranker-8b". Karena antarmukanya kompatibel dengan OpenAI, Anda dapat mengarahkan klien OpenAI yang sudah ada ke base URL api14 dan meneruskan id tersebut di field model, yang membuat pekerjaan integrasi tetap kecil jika Anda sudah memiliki tooling yang dibangun di sekitar OpenAI SDK. Request membawa query dan dokumen Anda sebagai input teks, dan response memberi Anda skor rerank. Model id adalah satu-satunya pengenal yang Anda butuhkan; tidak ada nama deployment atau endpoint terpisah yang perlu dikonfigurasi.

Hal utama yang perlu direncanakan adalah cakupannya. Model ini hanya melakukan rerank teks, jadi model ini tidak akan menjawab pertanyaan, merangkum dokumen, atau menghasilkan konten apa pun, dan model generation tetap diperlukan di hilir jika Anda membutuhkannya. Konteks 40.960 token mencakup query dan dokumen sekaligus, jadi kumpulan kandidat yang sangat besar mungkin perlu dinilai dalam batch, bukan dalam satu request. Jika tugas Anda adalah generation, klasifikasi, atau embedding, bukan penilaian pasangan query-document, model lain di katalog akan lebih cocok.