Usamos cookies. Cookies e o armazenamento do navegador mantêm você conectado e lembram suas preferências. Com sua permissão, também medimos como o site é usado. Você pode a qualquer momento. Veja nossa política de cookies.
amazon/titan-embed-text-v1Usa o seu saldo, aos preços acima. Novas contas começam com uso grátis.
Configurações
Amazon Titan Embeddings G1 - Text é um modelo de embedding de texto da Amazon, parte da família Titan de modelos de fundação. É um modelo de embedding de texto Titan de primeira geração, e sua categoria principal é embeddings. Em vez de gerar prosa, ele converte texto em vetores numéricos que representam significado, o que o torna um bloco de construção para sistemas de busca, recuperação e similaridade.
O modelo aceita apenas entrada de texto e retorna embeddings como saída. Cada entrada pode ter até 8.192 tokens de comprimento, o que permite que documentos razoavelmente grandes ou passagens longas sejam incorporados em uma única requisição. Ele retorna vetores fixos de 1.536 dimensões, então a forma da saída é previsível e consistente entre chamadas, o que simplifica o armazenamento em um banco de dados vetorial e a comparação entre vetores. A saída máxima é 7.372.
Como o modelo produz embeddings em vez de texto, os casos de uso decorrem de similaridade e recuperação. Você pode incorporar um corpus de documentos e incorporar consultas de usuários no momento da requisição, depois classificar documentos por similaridade vetorial para construir busca semântica sobre bases de conhecimento internas, documentação ou catálogos de produtos. A mesma abordagem suporta geração aumentada por recuperação, onde passagens relevantes são buscadas e passadas para um modelo separado de geração de texto. Embeddings também se encaixam em agrupamento e agrupamento por tópicos de grandes coleções de texto, deduplicação de conteúdo quase idêntico, classificação comparando um vetor de documento com exemplos rotulados, e recursos de recomendação ou correspondência que dependem de proximidade semântica em vez de sobreposição de palavras-chave. O limite de entrada de 8.192 tokens significa que artigos e relatórios longos podem ser incorporados sem dividi-los em muitos pedaços pequenos, embora a divisão em pedaços ainda possa ser preferível quando você precisa de recuperação no nível de passagem.
Você chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo "amazon/titan-embed-text-v1". Como a interface segue a convenção de embeddings da OpenAI, bibliotecas cliente e SDKs existentes da OpenAI podem apontar para a URL base da api14 e enviar requisições de embedding com esse id de modelo, o que mantém o trabalho de integração pequeno se você já tem um pipeline de embeddings. O modelo não lista parâmetros de requisição suportados além dos campos padrão de requisição de embedding, então planeje enviar o texto de entrada e o id do modelo, e lidar diretamente com os vetores retornados de 1.536 dimensões.
Considere se um modelo de embedding é a escolha certa: este modelo não gera texto, então tarefas como sumarização, resposta a perguntas ou chat precisam de um modelo separado de geração de texto, com o Titan Embeddings usado ao lado dele para recuperação. Se você precisa de um tamanho de vetor diferente ou de uma geração mais nova de embeddings Titan, verifique o que mais a api14 expõe sob o provedor Amazon antes de se comprometer com este id de modelo.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v1",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Esta comunidade ainda não tem tópicos. Abra o primeiro sobre Amazon: Titan Embeddings G1 - Text.