Google: Gemini Embedding 2

Google: Gemini Embedding 2 adalah model embedding dari Google, terdaftar di api14 dengan model id google/gemini-embedding-2. Model ini berada dalam kategori embeddings dan dideskripsikan oleh Google sebagai model embedding multimodal pertama perusahaan. Alih-alih menghasilkan respons chat, model ini mengubah input menjadi vektor yang dapat Anda simpan dan bandingkan, yang menjadikannya blok pembangun untuk sistem pencarian dan pengambilan informasi, bukan asisten yang Anda ajak bicara secara langsung.

Model ini menerima input teks, gambar, file, audio dan video, dan satu-satunya modalitas outputnya adalah embeddings. Deskripsi Google mencatat bahwa teks dan gambar saat ini didukung untuk dipetakan ke ruang vektor terpadu untuk pencarian semantik dan retrieval-augmented generation (RAG). Jendela konteksnya adalah 8192 token, dan output maksimumnya adalah 7372. Karena outputnya berupa vektor dan bukan prosa, Anda harus mengharapkan untuk mengonsumsi hasilnya secara programatik, misalnya dengan menuliskannya ke indeks vektor, alih-alih membacanya sebagai teks.

Kemampuan tersebut mengarah pada serangkaian penggunaan yang cukup spesifik. Pencarian semantik pada kumpulan dokumen adalah yang paling jelas: embed korpus Anda sekali, embed kueri pada saat permintaan, dan peringkatkan berdasarkan kemiripan vektor. Pipeline RAG mengikuti ide yang sama, di mana bagian yang diambil diteruskan ke model generasi terpisah. Dukungan input multimodal berarti Anda juga dapat membangun pengambilan yang mencampur teks dan gambar dalam satu ruang vektor, yang cocok untuk katalog, pustaka media atau koleksi apa pun di mana kueri dalam kata-kata seharusnya dapat memunculkan gambar yang relevan. Input audio dan video terdaftar sebagai modalitas yang diterima, sehingga pengindeksan aset tersebut juga dimungkinkan, meskipun deskripsi Google hanya menyebut teks dan gambar sebagai yang saat ini dipetakan ke ruang terpadu.

Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id google/gemini-embedding-2. Karena antarmukanya mengikuti konvensi embeddings OpenAI, klien dan SDK yang sudah ada yang sudah mengarah ke base URL yang kompatibel dengan OpenAI seharusnya berfungsi dengan perubahan minimal. Model ini tidak mencantumkan parameter yang didukung, jadi tidak ada tambahan yang perlu disetel di body permintaan selain field panggilan embedding standar seperti model id dan input. Jika Anda memindahkan pipeline yang sudah ada, periksa apakah Anda tidak bergantung pada parameter opsional yang tidak diterima model ini.

Satu pertimbangan praktis adalah jendela konteks 8192 token. Input yang lebih panjang dari itu perlu dipisah sebelum embedding, dan strategi chunking akan memengaruhi kualitas pengambilan, jadi rencanakan hal ini alih-alih mengasumsikan seluruh dokumen muat. Perlu juga diingat bahwa model ini hanya menghasilkan embeddings. Jika aplikasi Anda membutuhkan teks yang dihasilkan, ringkasan atau jawaban, Anda akan memerlukan model chat atau completion terpisah di sampingnya, dengan Gemini Embedding 2 menangani sisi pengambilan dalam pipeline.