Usamos cookies. Cookies e o armazenamento do navegador mantêm você conectado e lembram suas preferências. Com sua permissão, também medimos como o site é usado. Você pode a qualquer momento. Veja nossa política de cookies.
amazon/titan-embed-text-v2Usa o seu saldo, aos preços acima. Novas contas começam com uso grátis.
Configurações
O Amazon Titan Text Embeddings V2 é um modelo de embedding de texto da Amazon, listado na api14 sob o id de modelo amazon/titan-embed-text-v2. Ele pertence à categoria de embeddings, portanto sua função é transformar texto em vetores, em vez de gerar prosa ou manter uma conversa. Se sua aplicação precisa de uma representação numérica de texto que capture significado semântico, este é o tipo de modelo que você procura.
O modelo recebe texto como sua única entrada e retorna embeddings como sua saída. Ele aceita até 8.192 tokens por entrada, o que é espaço suficiente para uma seção longa de documento, um artigo completo ou um trecho considerável de uma entrada de base de conhecimento sem dividi-lo primeiro. Os vetores que ele retorna são normalizados e têm 1.024 dimensões, então você pode compará-los diretamente com similaridade de cosseno ou produto escalar sem etapas extras de normalização. A saída máxima é 7.372.
Essas características apontam para alguns usos práticos. Geração aumentada por recuperação é o mais óbvio: incorpore seus documentos uma vez, incorpore a consulta do usuário no momento da requisição e busque os trechos mais próximos para alimentar um modelo de geração. Busca semântica em catálogos de produtos, tickets de suporte ou documentação interna funciona da mesma forma, e lida com paráfrases que a busca por palavras-chave deixaria passar. Agrupamento e descoberta de tópicos se beneficiam dos vetores de dimensão fixa de 1.024, já que você pode executar k-means ou algoritmos similares sobre eles diretamente. Deduplicação e detecção de quase duplicatas também são aplicações naturais, assim como construir uma camada de recomendação que combina itens por significado em vez de por tags.
Você o chama através da API compatível com OpenAI da api14 usando o id de modelo amazon/titan-embed-text-v2, então qualquer cliente que já fale o formato de embeddings da OpenAI funcionará com mudanças mínimas. Aponte sua URL base para a api14, passe sua chave da api14 e envie seu texto para o endpoint de embeddings com esse id de modelo. O modelo não suporta parâmetros de requisição adicionais além do que o endpoint exige, então mantenha sua requisição simples e evite passar opções de ajuste que não serão respeitadas. Por ser um modelo de embedding, ele não aceita mensagens no estilo de chat nem retorna texto gerado.
Uma coisa a ter em mente é que este modelo lida apenas com texto. Se sua entrada incluir imagens, áudio ou outras modalidades, você precisará de um modelo diferente. Da mesma forma, se você precisa de um assistente que escreva respostas em vez de representar texto numericamente, um modelo de embedding é a ferramenta errada, e você o combinaria com um modelo de geração. Dentro de seu escopo, porém, ele cobre tarefas de recuperação, busca e agrupamento com uma janela de contexto grande o suficiente para a maioria dos trechos de documentos.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v2",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Esta comunidade ainda não tem tópicos. Abra o primeiro sobre Amazon: Titan Text Embeddings V2.