Kami menggunakan cookie. Cookie dan penyimpanan browser menjaga Anda tetap masuk dan mengingat preferensi Anda. Dengan izin Anda, kami juga mengukur cara situs digunakan. Anda dapat kapan saja. Lihat kebijakan cookie kami.
amazon/titan-embed-text-v2Berjalan dengan saldo Anda sesuai harga di atas. Akun baru mendapat pemakaian gratis.
Pengaturan
Amazon Titan Text Embeddings V2 adalah model text embedding dari Amazon, terdaftar di api14 dengan model id amazon/titan-embed-text-v2. Model ini termasuk dalam kategori embeddings, jadi tugasnya adalah mengubah teks menjadi vektor, bukan menghasilkan prosa atau melakukan percakapan. Jika aplikasi Anda membutuhkan representasi numerik dari teks yang menangkap makna semantik, inilah jenis model yang Anda gunakan.
Model ini menerima teks sebagai satu-satunya input dan mengembalikan embeddings sebagai output. Model ini menerima hingga 8.192 token per input, yang cukup untuk bagian dokumen yang panjang, artikel utuh, atau potongan besar dari entri basis pengetahuan tanpa harus memisahkannya terlebih dahulu. Vektor yang dikembalikan sudah dinormalisasi dan memiliki 1.024 dimensi, sehingga Anda dapat membandingkannya langsung dengan cosine similarity atau dot product tanpa langkah normalisasi tambahan. Output maksimumnya adalah 7.372.
Karakteristik tersebut mengarah pada beberapa penggunaan praktis. Retrieval augmented generation adalah yang paling jelas: embed dokumen Anda sekali, embed kueri pengguna saat permintaan, lalu ambil chunk terdekat untuk dimasukkan ke model generasi. Pencarian semantik pada katalog produk, tiket dukungan, atau dokumentasi internal bekerja dengan cara yang sama, dan mampu menangani parafrase yang akan terlewat oleh pencarian kata kunci. Clustering dan penemuan topik diuntungkan oleh vektor 1.024 dimensi yang tetap, karena Anda dapat menjalankan k-means atau algoritma serupa secara langsung pada vektor tersebut. Deduplikasi dan deteksi near-duplicate juga cocok secara alami, begitu pula membangun lapisan rekomendasi yang mencocokkan item berdasarkan makna, bukan berdasarkan tag.
Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id amazon/titan-embed-text-v2, sehingga klien apa pun yang sudah mendukung format embeddings OpenAI akan berfungsi dengan perubahan minimal. Arahkan base URL Anda ke api14, masukkan kunci api14 Anda, dan kirim teks Anda ke endpoint embeddings dengan model id tersebut. Model ini tidak mendukung parameter permintaan tambahan di luar yang dibutuhkan endpoint, jadi buat permintaan Anda tetap sederhana dan hindari memberikan opsi penyetelan yang tidak akan dipatuhi. Karena ini adalah model embedding, model ini tidak menerima pesan bergaya chat atau mengembalikan teks yang dihasilkan.
Satu hal yang perlu diingat adalah model ini hanya menangani teks. Jika input Anda mencakup gambar, audio, atau modalitas lain, Anda memerlukan model yang berbeda. Demikian pula, jika Anda membutuhkan asisten yang menulis jawaban, bukan merepresentasikan teks secara numerik, model embedding adalah alat yang salah, dan Anda sebaiknya memasangkannya dengan model generasi. Namun dalam cakupannya, model ini mencakup tugas retrieval, pencarian, dan clustering dengan context window yang cukup besar untuk sebagian besar chunk dokumen.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v2",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Komunitas ini belum memiliki topik. Buka topik pertama tentang Amazon: Titan Text Embeddings V2.