Usiamo i cookie. Cookie e memoria del browser ti mantengono connesso e ricordano le tue preferenze. Con il tuo consenso misuriamo anche come viene usato il sito. Puoi in qualsiasi momento. Consulta la nostra cookie policy.
amazon/titan-embed-text-v2Usa il tuo saldo ai prezzi indicati sopra. I nuovi account partono con utilizzo gratuito.
Impostazioni
Amazon Titan Text Embeddings V2 è un modello di embedding testuale di Amazon, elencato su api14 con l'id modello amazon/titan-embed-text-v2. Appartiene alla categoria embeddings, quindi il suo compito è trasformare il testo in vettori anziché generare prosa o portare avanti una conversazione. Se la tua applicazione ha bisogno di una rappresentazione numerica del testo che ne catturi il significato semantico, questo è il tipo di modello a cui ricorrere.
Il modello accetta testo come unico input e restituisce embeddings come output. Accetta fino a 8.192 token per input, spazio sufficiente per una lunga sezione di documento, un articolo completo o un blocco considerevole di una voce di knowledge base senza doverlo prima dividere. I vettori che restituisce sono normalizzati e hanno 1.024 dimensioni, quindi puoi confrontarli direttamente con la similarità coseno o il prodotto scalare senza passaggi aggiuntivi di normalizzazione. L'output massimo è 7.372.
Queste caratteristiche indicano alcuni usi pratici. La generazione aumentata dal recupero è quello più ovvio: incorpora i tuoi documenti una volta, incorpora la query dell'utente al momento della richiesta e recupera i blocchi più vicini da fornire a un modello di generazione. La ricerca semantica su cataloghi di prodotti, ticket di supporto o documentazione interna funziona allo stesso modo e gestisce le parafrasi che la ricerca per parole chiave non rileverebbe. Il clustering e la scoperta di argomenti traggono vantaggio dai vettori a dimensione fissa di 1.024, poiché puoi eseguire k-means o algoritmi simili direttamente su di essi. La deduplicazione e il rilevamento di quasi duplicati sono anch'essi casi d'uso naturali, così come la costruzione di uno strato di raccomandazione che abbina gli elementi per significato anziché per tag.
Lo chiami tramite l'API compatibile con OpenAI di api14 usando l'id modello amazon/titan-embed-text-v2, quindi qualsiasi client che parla già il formato embeddings di OpenAI funzionerà con modifiche minime. Punta il tuo base URL su api14, passa la tua chiave api14 e invia il tuo testo all'endpoint embeddings con quell'id modello. Il modello non supporta parametri di richiesta aggiuntivi oltre a quelli richiesti dall'endpoint, quindi mantieni la richiesta semplice ed evita di passare opzioni di ottimizzazione che non verranno rispettate. Poiché è un modello di embedding, non accetta messaggi in stile chat né restituisce testo generato.
Una cosa da tenere presente è che questo modello gestisce solo testo. Se il tuo input include immagini, audio o altre modalità, avrai bisogno di un modello diverso. Allo stesso modo, se hai bisogno di un assistente che scriva risposte anziché rappresentare il testo numericamente, un modello di embedding è lo strumento sbagliato e dovresti abbinarlo a un modello di generazione. Nel suo ambito, tuttavia, copre attività di recupero, ricerca e clustering con una finestra di contesto abbastanza ampia per la maggior parte dei blocchi di documento.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v2",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Questa community non ha ancora discussioni. Apri la prima su Amazon: Titan Text Embeddings V2.