Kami menggunakan cookie. Cookie dan penyimpanan browser menjaga Anda tetap masuk dan mengingat preferensi Anda. Dengan izin Anda, kami juga mengukur cara situs digunakan. Anda dapat kapan saja. Lihat kebijakan cookie kami.
liquid/lfm-3-1.7b:freeBerjalan dengan saldo Anda sesuai harga di atas. Akun baru mendapat pemakaian gratis.
Pengaturan
LiquidAI: LFM3-1.7B (gratis) adalah model teks dari LiquidAI, yang teridentifikasi di api14 dengan model id liquid/lfm-3-1.7b:free. Ini adalah model ringkas dengan 1,7 miliar parameter, yang diposisikan oleh penyedianya sebagai model teks kecil yang telah dilatih pasca untuk agen, pemanggilan alat, dan keluaran terstruktur. Ini adalah model teks-hanya dalam kedua arah: ia menerima prompt teks dan mengembalikan respons teks.
Model ini memiliki jendela konteks sebesar 262,144 token, yang besar untuk model dengan ukuran ini dan memungkinkan dokumen panjang, percakapan yang diperpanjang, atau keluaran alat yang cukup besar ditangani dalam satu permintaan. Keluaran maksimumnya adalah 8,192 token. Menurut penyedia, model ini bernalar sebelum menjawab, sehingga respons dapat mencakup langkah penalaran di depan keluaran akhir. Karena model ini dilatih pasca untuk perilaku agen, pemanggilan alat dan keluaran terstruktur adalah bagian utama dari desainnya, bukan tambahan.
Kemampuan tersebut mengarah pada serangkaian penggunaan yang cukup spesifik. Konteks yang panjang cocok untuk meringkas atau mengekstraksi informasi dari dokumen yang panjang, meninjau file kode yang besar, dan mempertahankan percakapan yang berjalan lama di mana giliran sebelumnya perlu tetap terlihat. Pemanggilan alat menjadikannya kandidat untuk alur kerja agen, di mana model memutuskan fungsi mana yang akan dipanggil dan dengan argumen apa. Keluaran terstruktur membantu ketika respons harus sesuai dengan skema, misalnya mengisi bidang untuk layanan hilir atau menghasilkan catatan yang dapat dibaca mesin. Perilaku penalaran berguna untuk pertanyaan multi-langkah di mana langkah perantara meningkatkan jawaban akhir.
Anda memanggil model melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id liquid/lfm-3-1.7b:free, jadi pustaka klien OpenAI yang sudah ada dan bentuk permintaan berfungsi hanya dengan mengubah URL dasar dan nama model. Model ini mendukung serangkaian parameter permintaan yang luas: temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, seed, stop, max_tokens, max_completion_tokens, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning, dan include_reasoning. Kontrol sampling seperti temperature dan top_p mencakup generasi biasa, sementara tools dan tool_choice menggerakkan pemanggilan fungsi dan structured_outputs atau response_format membatasi bentuk balasan. Parameter reasoning dan include_reasoning berkaitan dengan langkah penalaran model, dan seed mendukung sampling yang dapat direproduksi.
Batasan utama yang perlu diingat adalah batas keluaran: respons dibatasi hingga 8,192 token meskipun jendela konteks jauh lebih besar, jadi tugas yang memerlukan respons tunggal yang sangat panjang mungkin memerlukan pembagian pekerjaan di antara panggilan. Model ini juga hanya teks, jadi ia tidak dapat menerima gambar atau audio sebagai masukan. Untuk beban kerja di mana model teks kecil yang efisien dengan pemanggilan alat dan keluaran terstruktur sudah cukup, ini adalah pilihan yang masuk akal; di mana tugas bergantung pada modalitas masukan lain atau anggaran keluaran yang jauh lebih besar, model yang berbeda akan lebih baik.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "liquid/lfm-3-1.7b:free",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_completion_tokensmax_tokensmin_ppresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_pKomunitas ini belum memiliki topik. Buka topik pertama tentang LiquidAI: LFM3-1.7B (free).