LiquidAI: LFM2.5-24B-A2B

LiquidAI: LFM2.5-24B-A2B, LiquidAI tarafından sunulan bir metin modelidir. Toplam 24B parametreye ve 2.45B aktif parametreye sahip bir mixture-of-experts akıl yürütme modelidir. Sağlayıcı, modeli her zaman yanıtlamadan önce akıl yürüten ve araç çağıran ajanlar için tasarlanmış olarak tanımlar. Metin kategorisinde yer alır, yani metin alır ve metin döndürür.

Model metin girdisi kabul eder ve metin çıktısı üretir; bağlam penceresi 128.000 token ve maksimum çıktı 8.192 token'dır. Bir akıl yürütme modeli olduğu için yanıt üretmeden önce akıl yürütme sürecini işler ve include_reasoning ile reasoning parametreleri bu akıl yürütmenin yanıtta nasıl ele alınacağını kontrol etmenizi sağlar. Ayrıca tools ve tool_choice parametreleri aracılığıyla araç kullanımını, çıktının biçimini kısıtlamak için structured outputs ve response_format özelliklerini destekler. Örnekleme davranışı temperature, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, seed ve stop ile ayarlanabilir; token düzeyinde olasılıklara ihtiyaç duyarsanız logprobs ve top_logprobs kullanılabilir.

Bu yetenekler birkaç pratik kullanıma işaret eder. Araç çağıran ajanlar en net uyumdur, çünkü model akıl yürütüp ardından araçları çağırmak üzere tasarlanmıştır; bu da bilgi araması, fonksiyon çağırma veya adımları zincirleme gerektiren iş akışlarına uygundur. Structured outputs, belgelerden alan çıkarma veya başka bir sisteme beslenen makine tarafından okunabilir sonuçlar döndürme için makul bir seçim haline getirir. 128.000 token bağlam penceresi büyük belgeler, uzun konuşma geçmişleri veya büyük kod dosyaları gibi uzun girdileri destekler; akıl yürütme adımı ise yanıtlamadan önce bir problemi işlemekten fayda sağlayan çok adımlı analiz veya planlama gibi görevlerde yardımcı olur.

Modeli api14'ün OpenAI uyumlu API'si üzerinden "liquid/lfm-2.5-24b-a2b" model kimliğiyle çağırırsınız. İstekler OpenAI chat completions biçimini izler, bu nedenle mevcut OpenAI SDK'ları ve istemcileri yalnızca base URL ve model kimliğini değiştirerek çalışır. Desteklenen istek parametreleri şunlardır: frequency_penalty, include_reasoning, logprobs, max_completion_tokens, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k ve top_logprobs.

Çıktı sınırını aklınızda tutun: yanıtlar 8.192 token ile sınırlıdır, bu nedenle çok uzun tek bir yanıt gerektiren görevler işin birden fazla çağrıya bölünmesini gerektirebilir. Model yalnızca metin içindir, bu nedenle girdiniz görsel veya ses içeriyorsa farklı bir modele ihtiyacınız olur. Akıl yürütme ve araç çağrılarının değer katmadığı basit, yüksek hacimli metin üretimi için daha basit bir model daha ucuz ve daha hızlı olabilir, ancak ajan tarzı ve yapılandırılmış çıkarım işleri için bu modelin özellik seti iyi bir eşleşmedir.