Usamos cookies. Las cookies y el almacenamiento del navegador mantienen tu sesión iniciada y recuerdan tus preferencias. Con tu permiso, también medimos cómo se usa el sitio. Puedes en cualquier momento. Consulta nuestra política de cookies.
amazon/titan-embed-text-v1Se ejecuta con tu saldo a los precios indicados arriba. Las cuentas nuevas empiezan con uso gratuito.
Configuración
Amazon Titan Embeddings G1 - Text es un modelo de embeddings de texto de Amazon, parte de la familia Titan de modelos fundacionales. Es un modelo de embeddings de texto Titan de primera generación, y su categoría principal es embeddings. En lugar de generar prosa, convierte texto en vectores numéricos que representan significado, lo que lo convierte en un componente básico para sistemas de búsqueda, recuperación y similitud.
El modelo acepta únicamente entrada de texto y devuelve embeddings como salida. Cada entrada puede tener hasta 8.192 tokens de longitud, lo que permite incrustar documentos bastante grandes o pasajes largos en una sola solicitud. Devuelve vectores fijos de 1.536 dimensiones, por lo que la forma de la salida es predecible y consistente entre llamadas, lo que simplifica el almacenamiento en una base de datos vectorial y la comparación entre vectores. La salida máxima es 7.372.
Debido a que el modelo produce embeddings en lugar de texto, los casos de uso se derivan de la similitud y la recuperación. Puede incrustar un corpus de documentos e incrustar consultas de usuario en el momento de la solicitud, luego clasificar los documentos por similitud vectorial para construir búsqueda semántica sobre bases de conocimiento internas, documentación o catálogos de productos. El mismo enfoque admite la generación aumentada por recuperación, donde se obtienen pasajes relevantes y se pasan a un modelo de generación de texto separado. Los embeddings también encajan en agrupamiento y agrupación temática de grandes colecciones de texto, deduplicación de contenido casi idéntico, clasificación comparando un vector de documento con ejemplos etiquetados, y funciones de recomendación o emparejamiento que dependen de la cercanía semántica en lugar de la coincidencia de palabras clave. El límite de entrada de 8.192 tokens significa que artículos y reportes largos pueden incrustarse sin dividirlos en muchos fragmentos pequeños, aunque la fragmentación aún puede ser preferible cuando se necesita recuperación a nivel de pasaje.
Se llama al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "amazon/titan-embed-text-v1". Debido a que la interfaz sigue la convención de embeddings de OpenAI, las bibliotecas cliente y SDK de OpenAI existentes pueden apuntar a la URL base de api14 y enviar solicitudes de embeddings con ese id de modelo, lo que mantiene el trabajo de integración pequeño si ya tiene una canalización de embeddings. El modelo no lista parámetros de solicitud admitidos más allá de los campos estándar de solicitud de embeddings, así que planifique enviar el texto de entrada y el id de modelo, y maneje los vectores devueltos de 1.536 dimensiones directamente.
Considere si un modelo de embeddings es la opción adecuada en absoluto: este modelo no genera texto, por lo que tareas como resumen, respuesta a preguntas o chat necesitan un modelo de generación de texto separado, con Titan Embeddings usado junto a él para recuperación. Si necesita un tamaño de vector diferente o una generación más nueva de embeddings Titan, revise qué más expone api14 bajo el proveedor Amazon antes de comprometerse con este id de modelo.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v1",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Esta comunidad aún no tiene temas. Abre el primero sobre Amazon: Titan Embeddings G1 - Text.