We gebruiken cookies. Cookies en browseropslag houden je ingelogd en onthouden je voorkeuren. Met je toestemming meten we ook hoe de site wordt gebruikt. Je kunt je wanneer je wilt. Zie ons cookiebeleid.
amazon/titan-embed-text-v2Draait op je saldo tegen de prijzen hierboven. Nieuwe accounts beginnen met gratis gebruik.
Instellingen
Amazon Titan Text Embeddings V2 is een tekstembeddingmodel van Amazon, vermeld op api14 onder de model-id amazon/titan-embed-text-v2. Het behoort tot de categorie embeddings, dus het doel is om tekst om te zetten in vectoren in plaats van proza te genereren of een gesprek te voeren. Als uw toepassing een numerieke representatie van tekst nodig heeft die semantische betekenis vastlegt, dan is dit het soort model dat u gebruikt.
Het model neemt tekst als enige invoer en retourneert embeddings als uitvoer. Het accepteert tot 8.192 tokens per invoer, wat genoeg ruimte is voor een lang documentsectie, een volledig artikel of een aanzienlijk stuk van een knowledgebase-item zonder het eerst te splitsen. De vectoren die het retourneert zijn genormaliseerd en hebben 1.024 dimensies, zodat u ze direct kunt vergelijken met cosinusovereenkomst of dotproduct zonder extra normalisatiestappen. De maximale uitvoer is 7.372.
Die kenmerken wijzen op een paar praktische toepassingen. Retrieval augmented generation is de voor de hand liggende: embed uw documenten eenmalig, embed de gebruikersquery op het moment van het verzoek, en haal de dichtstbijzijnde chunks op om aan een generatiemodel te voeren. Semantisch zoeken over productcatalogi, supporttickets of interne documentatie werkt op dezelfde manier, en het gaat om met parafrases die zoeken op trefwoorden zou missen. Clustering en topic discovery profiteren van de vaste vectoren met 1.024 dimensies, omdat u k-means of vergelijkbare algoritmen er direct overheen kunt uitvoeren. Deduplicatie en detectie van bijna-duplicaten passen ook natuurlijk, net als het bouwen van een aanbevelingslaag die items op betekenis matcht in plaats van op tags.
U roept het aan via de OpenAI-compatibele API van api14 met de model-id amazon/titan-embed-text-v2, dus elke client die al het OpenAI embeddings-formaat spreekt, werkt met minimale wijzigingen. Richt uw base-URL op api14, geef uw api14-sleutel door, en stuur uw tekst naar het embeddings-endpoint met die model-id. Het model ondersteunt geen aanvullende verzoekparameters buiten wat het endpoint vereist, dus houd uw verzoek eenvoudig en vermijd het doorgeven van tuning-opties die niet worden gehonoreerd. Omdat het een embeddingmodel is, accepteert het geen chatberichten in gespreksstijl en retourneert het geen gegenereerde tekst.
Een ding om in gedachten te houden is dat dit model alleen tekst verwerkt. Als uw invoer afbeeldingen, audio of andere modaliteiten bevat, heeft u een ander model nodig. Evenzo, als u een assistent nodig heeft die antwoorden schrijft in plaats van tekst numeriek representeert, is een embeddingmodel het verkeerde hulpmiddel, en zou u dit model combineren met een generatiemodel. Binnen zijn bereik dekt het echter retrieval-, zoek- en clusteringtaken met een contextvenster dat groot genoeg is voor de meeste documentchunks.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v2",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Deze community heeft nog geen topics. Open het eerste topic over Amazon: Titan Text Embeddings V2.