Google: Gemini Embedding 2

Google: Gemini Embedding 2 é um modelo de embedding da Google, listado em api14 sob o id de modelo google/gemini-embedding-2. Situa-se na categoria de embeddings e é descrito pela Google como o primeiro modelo de embedding multimodal da empresa. Em vez de gerar respostas de chat, converte entradas em vetores que pode armazenar e comparar, o que o torna um bloco de construção para sistemas de pesquisa e recuperação, em vez de um assistente com o qual fala diretamente.

O modelo aceita entradas de texto, imagem, ficheiro, áudio e vídeo, e a sua única modalidade de saída são embeddings. A descrição da Google observa que texto e imagens são atualmente suportados para mapeamento num espaço vetorial unificado para pesquisa semântica e geração aumentada por recuperação (RAG). A janela de contexto é de 8192 tokens, e a saída máxima é 7372. Como a saída é um vetor e não prosa, deve esperar consumir o resultado programaticamente, por exemplo escrevendo-o num índice vetorial, em vez de o ler como texto.

Essas capacidades apontam para um conjunto bastante específico de utilizações. A pesquisa semântica sobre uma coleção de documentos é a mais óbvia: incorporar o seu corpus uma vez, incorporar a consulta no momento do pedido, e classificar por similaridade vetorial. Os pipelines de RAG decorrem da mesma ideia, onde as passagens recuperadas são passadas a um modelo de geração separado. O suporte de entrada multimodal significa que também pode construir recuperação que mistura texto e imagens num único espaço vetorial, o que se adequa a catálogos, bibliotecas de media ou qualquer coleção onde uma consulta em palavras deva conseguir revelar uma imagem relevante. Entradas de áudio e vídeo são listadas como modalidades aceites, pelo que indexar esses recursos também é possível, embora a descrição da Google apenas indique texto e imagens como atualmente mapeados no espaço unificado.

Chama o modelo através da API compatível com OpenAI do api14 usando o id de modelo google/gemini-embedding-2. Como a interface segue a convenção de embeddings da OpenAI, clientes e SDKs existentes que já apontam para um URL base compatível com OpenAI devem funcionar com alterações mínimas. O modelo não lista parâmetros suportados, pelo que não há nada extra para ajustar no corpo do pedido além dos campos padrão de chamada de embedding, como o id de modelo e a entrada. Se está a portar um pipeline existente, verifique se não está a depender de parâmetros opcionais que este modelo não aceita.

Uma consideração prática é a janela de contexto de 8192 tokens. Entradas mais longas do que isso precisam de ser divididas antes da incorporação, e a estratégia de fragmentação afetará a qualidade da recuperação, pelo que planeie isso em vez de assumir que documentos inteiros cabem. Tenha também em mente que este modelo produz apenas embeddings. Se a sua aplicação precisa de texto gerado, resumos ou respostas, precisará de um modelo de chat ou de conclusão separado ao lado dele, com o Gemini Embedding 2 a tratar do lado da recuperação do pipeline.