Usiamo i cookie. Cookie e memoria del browser ti mantengono connesso e ricordano le tue preferenze. Con il tuo consenso misuriamo anche come viene usato il sito. Puoi in qualsiasi momento. Consulta la nostra cookie policy.
Usiamo i cookie. Cookie e memoria del browser ti mantengono connesso e ricordano le tue preferenze. Con il tuo consenso misuriamo anche come viene usato il sito. Puoi in qualsiasi momento. Consulta la nostra cookie policy.
cohere/embed-5-fastUsa il tuo saldo ai prezzi indicati sopra. I nuovi account partono con utilizzo gratuito.
Impostazioni
Cohere: Embed 5 Fast è un modello di embedding multimodale di Cohere, posizionato come il tier a latenza inferiore ed economicamente efficiente della famiglia Embed 5 dell'azienda. È pensato per sviluppatori che devono trasformare contenuti in rappresentazioni vettoriali su larga scala, dove throughput e reattività contano quanto la qualità dell'embedding. Il modello appartiene alla categoria embeddings anziché a quella chat, quindi non genera testo conversazionale; il suo compito è produrre vettori che i sistemi a valle possano cercare, confrontare o classificare.
Il modello accetta in input testo, immagini e contenuti con testo e immagini interlacciati, e restituisce embedding come unico output. Questo supporto all'input multimodale significa che un singolo modello può generare embedding di un paragrafo, della foto di un prodotto o di una pagina di documento che mescola entrambi, il che mantiene le pipeline di retrieval più semplici rispetto al mantenere encoder separati per testo e immagini. Offre una lunghezza di contesto di 128.000 token, con un output massimo di 115.200, il che gli dà spazio per gestire documenti lunghi e grandi payload di immagini e testo senza chunking aggressivo. Con circa 1B parametri, è un modello compatto per design, il che è coerente con il suo posizionamento veloce ed economicamente efficiente.
Queste capacità indicano un insieme piuttosto specifico di casi d'uso. La ricerca semantica su media misti è l'adattamento più diretto: indicizzare testo e immagini in un unico spazio vettoriale così che una query possa recuperare gli uni o le altre. Le pipeline di retrieval-augmented generation possono usarlo per generare embedding di basi di conoscenza che contengono figure, screenshot o pagine scansionate insieme a testo in prosa. I sistemi di raccomandazione e similarità traggono vantaggio dallo spazio condiviso, poiché gli elementi possono essere confrontati indipendentemente dal fatto che il loro contenuto sia testuale o visivo. Anche classificazione, clustering, deduplicazione e rilevamento di anomalie su grandi corpora sono applicazioni naturali, in particolare dove il volume dei dati rende latenza e costo per embedding una preoccupazione pratica.
Chiami il modello tramite l'API compatibile con OpenAI di api14 usando il model id "cohere/embed-5-fast". Poiché l'endpoint segue la convenzione degli embedding di OpenAI, i client e gli SDK esistenti che già puntano a quell'interfaccia possono indirizzarsi ad api14 con modifiche minime, tipicamente solo sostituendo la base URL e il model id. Il modello non dichiara alcun parametro di richiesta supportato oltre alla forma standard della richiesta di embedding, quindi non aspettarti che siano disponibili opzioni di tuning come dimensioni personalizzate o opzioni specifiche del provider; invia il tuo input e leggi i vettori restituiti.
Dato che è il tier veloce della famiglia Embed 5, è il default sensato quando generi embedding su larga scala e latenza o throughput sono il vincolo. Se il tuo carico di lavoro è puramente testuale e non richiede la gestione delle immagini, un modello di embedding solo testo può essere una scelta più semplice. Se hai bisogno di un modello che generi testo anziché vettori, questa non è la scelta giusta, poiché la sua modalità di output è solo embeddings.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "cohere/embed-5-fast",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Questa community non ha ancora discussioni. Apri la prima su Cohere: Embed 5 Fast.