Çerez kullanıyoruz. Çerezler ve tarayıcı depolaması oturumunu açık tutar ve tercihlerini hatırlar. İzin verirsen sitenin nasıl kullanıldığını da ölçeriz. İstediğin zaman . Ayrıntılar için çerez politikamıza bak.
liquid/lfm-3-1.7b:freeYukarıdaki fiyatlarla bakiyenden çalışır. Yeni hesaplar ücretsiz kullanımla başlar.
Ayarlar
LiquidAI: LFM3-1.7B (free), LiquidAI tarafından sunulan ve api14 üzerinde liquid/lfm-3-1.7b:free model id'si ile tanımlanan bir metin modelidir. 1,7 milyar parametreli kompakt bir modeldir ve sağlayıcısı tarafından ajanlar, araç çağırma ve yapılandırılmış çıktılar için sonradan eğitilmiş küçük bir metin modeli olarak konumlandırılmıştır. Her iki yönde de yalnızca metinle çalışan bir modeldir: metin istemleri alır ve metin yanıtları döndürür.
Modelin bağlam penceresi 262.144 tokendır; bu, bu boyuttaki bir model için büyüktür ve uzun belgelerin, genişletilmiş konuşmaların veya büyük araç çıktılarının tek bir istekte işlenmesine olanak tanır. Maksimum çıktısı 8.192 tokendır. Sağlayıcıya göre model yanıt vermeden önce akıl yürütür, bu nedenle yanıtlar nihai çıktıdan önce bir akıl yürütme adımı içerebilir. Ajan davranışı için sonradan eğitildiğinden, araç çağırma ve yapılandırılmış çıktılar tasarımının sonradan eklenen parçaları değil, temel parçalarıdır.
Bu yetenekler oldukça belirli bir kullanım kümesine işaret eder. Uzun bağlam; uzun belgeleri özetlemek veya onlardan bilgi çıkarmak, büyük kod dosyalarını incelemek ve önceki turların görünür kalması gereken uzun süreli konuşmaları sürdürmek için uygundur. Araç çağırma, modelin hangi fonksiyonu hangi argümanlarla çağıracağına karar verdiği ajan iş akışları için onu bir aday haline getirir. Yapılandırılmış çıktılar, yanıtın bir şemaya uyması gerektiğinde, örneğin bir alt hizmet için alanların doldurulmasında veya makine tarafından okunabilir kayıtlar üretilmesinde yardımcı olur. Akıl yürütme davranışı, ara bir adımın nihai yanıtı iyileştirdiği çok adımlı sorular için faydalıdır.
Modeli api14'ün OpenAI uyumlu API'si üzerinden liquid/lfm-3-1.7b:free model id'sini kullanarak çağırırsınız, böylece mevcut OpenAI istemci kütüphaneleri ve istek biçimleri yalnızca temel URL ve model adı değiştirilerek çalışır. Model geniş bir istek parametresi kümesini destekler: temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, seed, stop, max_tokens, max_completion_tokens, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning ve include_reasoning. temperature ve top_p gibi örnekleme kontrolleri olağan üretimi kapsarken, tools ve tool_choice fonksiyon çağırmayı yönlendirir ve structured_outputs veya response_format yanıtın biçimini sınırlar. reasoning ve include_reasoning parametreleri modelin akıl yürütme adımıyla ilgilidir ve seed tekrarlanabilir örneklemeyi destekler.
Akılda tutulması gereken temel kısıt çıktı tavanıdır: bağlam penceresi çok daha büyük olsa da yanıtlar 8.192 token ile sınırlıdır, bu nedenle çok uzun tek yanıtlar gerektiren görevler işin çağrılar arasında bölünmesini gerektirebilir. Model ayrıca yalnızca metinle çalışır, bu nedenle girdi olarak görüntü veya ses alamaz. Araç çağırma ve yapılandırılmış çıktılarla birlikte küçük, verimli bir metin modelinin yeterli olduğu iş yükleri için makul bir tercihtir; görevin diğer girdi modalitelerine veya çok daha büyük bir çıktı bütçesine bağlı olduğu durumlarda ise farklı bir model daha iyi hizmet edecektir.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "liquid/lfm-3-1.7b:free",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_completion_tokensmax_tokensmin_ppresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_pBu toplulukta henüz konu yok. LiquidAI: LFM3-1.7B (free) hakkında ilk konuyu sen aç.