Usamos cookies. Las cookies y el almacenamiento del navegador mantienen tu sesión iniciada y recuerdan tus preferencias. Con tu permiso, también medimos cómo se usa el sitio. Puedes en cualquier momento. Consulta nuestra política de cookies.
cohere/embed-5-fastSe ejecuta con tu saldo a los precios indicados arriba. Las cuentas nuevas empiezan con uso gratuito.
Configuración
Cohere: Embed 5 Fast es un modelo de embedding multimodal de Cohere, posicionado como el nivel de menor latencia y costo eficiente de la familia Embed 5 de la compañía. Está diseñado para desarrolladores que necesitan convertir contenido en representaciones vectoriales a escala, donde el rendimiento y la capacidad de respuesta importan tanto como la calidad del embedding. El modelo se ubica en la categoría de embeddings en lugar de la categoría de chat, por lo que no genera texto conversacional; su función es producir vectores que los sistemas posteriores puedan buscar, comparar o clasificar.
El modelo acepta texto, imágenes y contenido intercalado de texto e imagen como entrada, y devuelve embeddings como su única salida. Ese soporte de entrada multimodal significa que un solo modelo puede generar embeddings de un párrafo, una foto de producto o una página de documento que mezcle ambos, lo que mantiene los pipelines de recuperación más simples que mantener codificadores separados de texto e imagen. Ofrece una longitud de contexto de 128,000 tokens, con una salida máxima de 115,200, lo que le da espacio para manejar documentos largos y grandes cargas útiles de imagen y texto sin fragmentación agresiva. Con aproximadamente 1B de parámetros, es un modelo compacto por diseño, lo cual es consistente con su posicionamiento rápido y costo eficiente.
Esas capacidades apuntan a un conjunto bastante específico de casos de uso. La búsqueda semántica sobre medios mixtos es el encaje más directo: indexar texto e imágenes en un único espacio vectorial para que una consulta pueda recuperar cualquiera de los dos. Los pipelines de generación aumentada por recuperación pueden usarlo para generar embeddings de bases de conocimiento que contienen figuras, capturas de pantalla o páginas escaneadas junto con prosa. Los sistemas de recomendación y similitud se benefician del espacio compartido, ya que los elementos se pueden comparar independientemente de si su contenido es textual o visual. La clasificación, el agrupamiento, la deduplicación y la detección de anomalías sobre grandes corpus también son aplicaciones naturales, particularmente donde el volumen de datos hace que la latencia y el costo por embedding sean una preocupación práctica.
Se llama al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "cohere/embed-5-fast". Debido a que el endpoint sigue la convención de embeddings de OpenAI, los clientes y SDK existentes que ya apuntan a esa interfaz pueden apuntar a api14 con cambios mínimos, típicamente solo intercambiando la URL base y el id de modelo. El modelo no declara ningún parámetro de solicitud soportado más allá de la forma estándar de solicitud de embedding, por lo que no se debe esperar que estén disponibles ajustes como dimensiones personalizadas u opciones específicas del proveedor; envíe su entrada y lea los vectores devueltos.
Dado que es el nivel rápido de la familia Embed 5, es el valor predeterminado sensato cuando se generan embeddings a volumen y la latencia o el rendimiento son la restricción. Si su carga de trabajo es puramente texto y no necesita manejo de imágenes, un modelo de embedding solo de texto puede ser un encaje más simple. Si necesita un modelo que genere texto en lugar de vectores, esta no es la elección correcta, ya que su modalidad de salida es solo embeddings.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "cohere/embed-5-fast",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Esta comunidad aún no tiene temas. Abre el primero sobre Cohere: Embed 5 Fast.