LiquidAI: LFM2.5-2.6B

LiquidAI: LFM2.5-2.6B, Liquid AI tarafından geliştirilen bir metin modelidir. LFM2.5 ailesine aittir ve adındaki 2.6B, bu seri içindeki boyut sınıfına işaret eder. Liquid AI bunu kompakt bir akıl yürütme modeli olarak konumlandırır; yani akıl yürütme davranışı sonradan eklenen bir katman değil, modelin baştan itibaren yapmak üzere tasarlandığı işin bir parçasıdır. Metin kategorisinde yer alır, dolayısıyla görüntü, ses veya diğer medya türleriyle değil, dille çalışır.

Girdi tarafında model yalnızca metin kabul eder ve yalnızca metin üretir. Bağlam penceresi 128.000 tokendır; bu, tek bir istekte kapsamlı belgeleri, uzun konuşma geçmişlerini veya çok belgeli getirim yüklerini tutmaya yetecek kadar geniştir. Maksimum çıktı 8.192 tokendır, yani yanıtlar girdi kapasitesinin oldukça altında sınırlandırılmıştır. Akıl yürütme, arayüzün birinci sınıf parçasıdır: desteklenen parametreler arasında reasoning ve include_reasoning bulunur; bunlar modelin akıl yürütme çıktısını denetlemenize ve görünür kılmanıza olanak tanır. Ayrıca structured outputs ve response_format desteklenir; böylece üretimi serbest metin yerine bir şemayla sınırlayabilirsiniz.

Bu yetenekler oldukça belirli bir kullanım kümesine işaret eder. Liquid AI, hedeflenen kullanım alanları olarak ajan iş akışlarını, veri çıkarımını, RAG'ı ve uzun bağlam işlemeyi sayar. Veri çıkarımı ile structured outputs doğal olarak bir arada çalışır: bir belge verip alanları tanımlı bir biçimde geri istersiniz. RAG, 128.000 tokenlık bağlamdan fayda sağlar; çünkü getirilen pasajlar agresif biçimde kırpılmadan paketlenebilir. Ajan iş akışları, tanımladığınız fonksiyonları modelin çağırmasına olanak tanıyan tools ve tool_choice parametreleri aracılığıyla desteklenir. Uzun bağlam işleme; özetleme, büyük girdiler üzerinde soru yanıtlama ve tüm belgenin tek seferde görünmesi gereken benzer görevleri kapsar.

Modeli api14'ün OpenAI uyumlu API'si üzerinden "liquid/lfm-2.5-2.6b" model id'siyle çağırırsınız. Arayüz OpenAI biçimini izlediği için mevcut OpenAI istemci kütüphaneleri, base URL ve model id değiştirilerek çalışır. Desteklediği istek parametreleri şunlardır: frequency_penalty, include_reasoning, logprobs, max_completion_tokens, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs ve top_p. Bu, örnekleme denetimlerini, cezaları, durdurma dizilerini, yeniden üretilebilirlik için seed kullanımını, token sınırlarını, araç çağırmayı, yapılandırılmış çıktıyı ve log olasılığı incelemesini kapsar.

Baştan belirtilmesi gereken bir sınırlama var. Liquid AI bu modelin ajan tabanlı kodlama için kullanılmamasını önerir; yani iş yükünüz kod üretimi veya bir kodlama ajanıysa başka bir model büyük olasılıkla daha uygun olacaktır. 8.192 tokenlık çıktı tavanı da çok uzun tek yanıtlar gerektiren görevler için önemlidir. Ancak yukarıda listelenen alanlardaki metin görevleri için geniş bağlam penceresi, akıl yürütme desteği, araç çağırma ve yapılandırılmış çıktıların birleşimi, modeli değerlendirmeye değer makul bir aday yapar.