Google: Gemini Embedding 2 Preview

Google: Gemini Embedding 2 Preview is een embeddingmodel van Google, gepubliceerd onder het model-id google/gemini-embedding-2-preview. Het valt in de categorie embeddings en wordt door Google beschreven als zijn eerste multimodale embeddingmodel. Het is een preview-release, wat het vermelden waard is als je van plan bent er in productie op te vertrouwen.

Het model accepteert tekst, afbeelding, bestand, audio en video als invoer, en het produceert embeddings als enige uitvoer. De contextlengte is 8192 tokens, en de maximale uitvoer is 7372. In de beschrijving van Google staat dat tekst en afbeeldingen momenteel worden ondersteund voor het mappen naar een verenigde vectorruimte, wat het deel van de multimodale invoerlijst is dat vandaag expliciet wordt gedekt.

Die combinatie wijst op semantisch zoeken en retrieval-augmented generation, de twee toepassingen die Google in zijn beschrijving noemt. Je kunt documenten en queries embedden zodat een vectorstore passages op betekenis kan ophalen in plaats van op trefwoord, en je kunt de opgehaalde passages aan een generatiemodel voeren om zijn antwoorden te gronden. Omdat afbeeldingen naar dezelfde vectorruimte als tekst kunnen worden gemapt, volgt ook crossmodaal ophalen: afbeeldingen naast tekst indexeren en met één query door beide zoeken. De bredere invoerlijst (bestand, audio, video) suggereert waar het model naartoe gaat, maar de vermelde ondersteuning is tekst en afbeeldingen, dus beschouw die voorlopig als de betrouwbare invoer.

Je roept het aan via de OpenAI-compatibele API van api14 met het model-id google/gemini-embedding-2-preview, op dezelfde manier als je elk ander embedding-endpoint zou aanroepen, dus bestaande OpenAI-clientbibliotheken en codepaden werken zonder wijzigingen. Het model vermeldt geen ondersteunde parameters naast de basis van het request, dus houd je aanroepen eenvoudig en ga niet uit van afstemmingsopties die niet gedocumenteerd zijn.

Twee praktische punten. De context van 8192 tokens begrenst hoeveel tekst je in één aanroep kunt embedden, dus lange documenten moeten worden opgedeeld voordat ze worden geëmbed. En omdat dit een preview-model is, kan een niet-preview embeddingmodel de veiligere keuze zijn als je een stabiel, langetermijndoel voor embeddings nodig hebt.