Usiamo i cookie. Cookie e memoria del browser ti mantengono connesso e ricordano le tue preferenze. Con il tuo consenso misuriamo anche come viene usato il sito. Puoi in qualsiasi momento. Consulta la nostra cookie policy.
amazon/titan-embed-text-v1Usa il tuo saldo ai prezzi indicati sopra. I nuovi account partono con utilizzo gratuito.
Impostazioni
Amazon Titan Embeddings G1 - Text è un modello di embedding testuale di Amazon, parte della famiglia Titan di modelli foundation. È un modello di embedding testuale Titan di prima generazione, e la sua categoria principale è embeddings. Invece di generare prosa, converte il testo in vettori numerici che ne rappresentano il significato, il che lo rende un elemento costitutivo per sistemi di ricerca, retrieval e similarità.
Il modello accetta solo input testuale e restituisce embeddings come output. Ogni input può essere lungo fino a 8.192 token, il che consente di incorporare documenti o passaggi lunghi in una singola richiesta. Restituisce vettori fissi a 1.536 dimensioni, quindi la forma dell'output è prevedibile e coerente tra le chiamate, il che semplifica l'archiviazione in un database vettoriale e il confronto tra vettori. L'output massimo è 7.372.
Poiché il modello produce embeddings anziché testo, i casi d'uso derivano dalla similarità e dal retrieval. Puoi incorporare un corpus di documenti e incorporare le query degli utenti al momento della richiesta, quindi classificare i documenti per similarità vettoriale per costruire una ricerca semantica su basi di conoscenza interne, documentazione o cataloghi di prodotti. Lo stesso approccio supporta la generazione aumentata da retrieval, in cui i passaggi rilevanti vengono recuperati e passati a un modello di generazione testuale separato. Gli embeddings si adattano anche al clustering e al raggruppamento per argomento di grandi collezioni di testo, alla deduplicazione di contenuti quasi identici, alla classificazione confrontando il vettore di un documento con esempi etichettati, e a funzionalità di raccomandazione o matching che si basano sulla vicinanza semantica anziché sulla sovrapposizione di parole chiave. Il limite di input di 8.192 token significa che articoli e report lunghi possono essere incorporati senza suddividerli in molti piccoli chunk, anche se il chunking può comunque essere preferibile quando è necessario un retrieval a livello di passaggio.
Chiami il modello tramite l'API compatibile con OpenAI di api14 usando il model id "amazon/titan-embed-text-v1". Poiché l'interfaccia segue la convenzione degli embeddings di OpenAI, le librerie client e gli SDK OpenAI esistenti possono puntare al base URL di api14 e inviare richieste di embedding con quel model id, il che mantiene ridotto il lavoro di integrazione se hai già una pipeline di embeddings. Il modello non elenca parametri di richiesta supportati oltre ai campi standard della richiesta di embedding, quindi prevedi di inviare il testo di input e il model id, e gestisci direttamente i vettori a 1.536 dimensioni restituiti.
Valuta se un modello di embedding sia davvero la scelta giusta: questo modello non genera testo, quindi attività come riassunto, question answering o chat richiedono un modello di generazione testuale separato, con Titan Embeddings usato insieme ad esso per il retrieval. Se hai bisogno di una dimensione vettoriale diversa o di una generazione più recente di embeddings Titan, controlla cos'altro api14 espone sotto il provider Amazon prima di impegnarti su questo model id.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v1",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Questa community non ha ancora discussioni. Apri la prima su Amazon: Titan Embeddings G1 - Text.