Vi använder cookies. Cookies och webbläsarlagring håller dig inloggad och kommer ihåg dina preferenser. Med ditt tillstånd mäter vi också hur webbplatsen används. Du kan när som helst. Läs vår cookiepolicy.
amazon/titan-embed-text-v2Körs på ditt saldo till priserna ovan. Nya konton börjar med gratis användning.
Inställningar
Amazon Titan Text Embeddings V2 är en textinbäddningsmodell från Amazon, listad på api14 under modell-id:t amazon/titan-embed-text-v2. Den tillhör kategorin embeddings, så dess uppgift är att omvandla text till vektorer snarare än att generera prosa eller föra en konversation. Om din applikation behöver en numerisk representation av text som fångar semantisk betydelse, är det den här typen av modell du tar till.
Modellen tar text som sin enda indata och returnerar inbäddningar som sin utdata. Den accepterar upp till 8 192 tokens per indata, vilket är tillräckligt utrymme för ett långt dokumentavsnitt, en fullständig artikel eller en stor del av en kunskapsbaspost utan att dela upp den först. Vektorerna den returnerar är normaliserade och har 1 024 dimensioner, så du kan jämföra dem direkt med cosinuslikhet eller dot product utan extra normaliseringssteg. Den maximala utdatan är 7 372.
Dessa egenskaper pekar mot några praktiska användningsområden. Retrieval augmented generation är det uppenbara: bädda in dina dokument en gång, bädda in användarens fråga vid förfrågningstillfället och hämta de närmaste delarna att mata in i en genereringsmodell. Semantisk sökning över produktkataloger, supportärenden eller intern dokumentation fungerar på samma sätt, och den hanterar omskrivningar som nyckelordssökning skulle missa. Klustring och upptäckt av ämnen drar nytta av de fasta 1 024-dimensionella vektorerna, eftersom du kan köra k-means eller liknande algoritmer över dem direkt. Deduplicering och detektering av nästan dubbletter passar också naturligt, liksom att bygga ett rekommendationslager som matchar objekt efter betydelse snarare än efter taggar.
Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t amazon/titan-embed-text-v2, så vilken klient som helst som redan talar OpenAI:s inbäddningsformat kommer att fungera med minimala ändringar. Peka din bas-URL mot api14, skicka din api14-nyckel och skicka din text till embeddings-endpointen med det modell-id:t. Modellen stöder inga ytterligare förfrågningsparametrar utöver vad endpointen kräver, så håll din förfrågan enkel och undvik att skicka justeringsalternativ som inte kommer att respekteras. Eftersom det är en inbäddningsmodell accepterar den inte chattstiliserade meddelanden eller returnerar genererad text.
En sak att ha i åtanke är att denna modell endast hanterar text. Om din indata innehåller bilder, ljud eller andra modaliteter behöver du en annan modell. På samma sätt, om du behöver en assistent som skriver svar snarare än representerar text numeriskt, är en inbäddningsmodell fel verktyg, och du skulle i stället para ihop denna med en genereringsmodell. Inom sitt område täcker den dock hämtning, sökning och klustringsuppgifter med ett kontextfönster som är tillräckligt stort för de flesta dokumentdelar.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v2",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Den här communityn har inga trådar ännu. Starta den första om Amazon: Titan Text Embeddings V2.