Usamos cookies. Las cookies y el almacenamiento del navegador mantienen tu sesión iniciada y recuerdan tus preferencias. Con tu permiso, también medimos cómo se usa el sitio. Puedes en cualquier momento. Consulta nuestra política de cookies.
amazon/titan-embed-text-v2Se ejecuta con tu saldo a los precios indicados arriba. Las cuentas nuevas empiezan con uso gratuito.
Configuración
Amazon Titan Text Embeddings V2 es un modelo de embedding de texto de Amazon, listado en api14 bajo el id de modelo amazon/titan-embed-text-v2. Pertenece a la categoría de embeddings, por lo que su trabajo es convertir texto en vectores en lugar de generar prosa o mantener una conversación. Si tu aplicación necesita una representación numérica del texto que capture el significado semántico, este es el tipo de modelo al que recurres.
El modelo toma texto como su única entrada y devuelve embeddings como su salida. Acepta hasta 8.192 tokens por entrada, lo que es espacio suficiente para una sección larga de un documento, un artículo completo o un fragmento considerable de una entrada de base de conocimiento sin dividirlo primero. Los vectores que devuelve están normalizados y tienen 1.024 dimensiones, por lo que puedes compararlos directamente con similitud de coseno o producto punto sin pasos adicionales de normalización. La salida máxima es 7.372.
Esas características apuntan a algunos usos prácticos. La generación aumentada por recuperación es el más obvio: incrusta tus documentos una vez, incrusta la consulta del usuario en el momento de la solicitud y recupera los fragmentos más cercanos para alimentar un modelo de generación. La búsqueda semántica sobre catálogos de productos, tickets de soporte o documentación interna funciona de la misma manera, y maneja paráfrasis que la búsqueda por palabras clave pasaría por alto. El agrupamiento y el descubrimiento de temas se benefician de los vectores fijos de 1.024 dimensiones, ya que puedes ejecutar k-means o algoritmos similares sobre ellos directamente. La deduplicación y la detección de casi duplicados también encajan de forma natural, al igual que construir una capa de recomendación que empareje elementos por significado en lugar de por etiquetas.
Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo amazon/titan-embed-text-v2, por lo que cualquier cliente que ya hable el formato de embeddings de OpenAI funcionará con cambios mínimos. Apunta tu URL base a api14, pasa tu clave de api14 y envía tu texto al endpoint de embeddings con ese id de modelo. El modelo no admite parámetros de solicitud adicionales más allá de lo que requiere el endpoint, así que mantén tu solicitud simple y evita pasar opciones de ajuste que no serán respetadas. Debido a que es un modelo de embedding, no acepta mensajes de estilo chat ni devuelve texto generado.
Algo que tener en cuenta es que este modelo solo maneja texto. Si tu entrada incluye imágenes, audio u otras modalidades, necesitarás un modelo diferente. De manera similar, si necesitas un asistente que escriba respuestas en lugar de representar texto numéricamente, un modelo de embedding es la herramienta equivocada, y en su lugar combinarías este con un modelo de generación. Dentro de su alcance, sin embargo, cubre tareas de recuperación, búsqueda y agrupamiento con una ventana de contexto lo suficientemente grande para la mayoría de los fragmentos de documentos.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v2",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Esta comunidad aún no tiene temas. Abre el primero sobre Amazon: Titan Text Embeddings V2.