Arcee AI: Trinity Large Thinking

Arcee AI: Trinity Large Thinking, Arcee AI tarafından sunulan bir metin modelidir. Açık kaynaklı bir akıl yürütme modelidir, yani arkasındaki ağırlıklar ve akıl yürütme davranışı tescilli tutulmak yerine yayımlanmıştır. Arcee AI bunu özellikle düşünme görevleri için oluşturulmuş büyük bir model olarak konumlandırıyor ve sağlayıcı PinchBench, ajan tabanlı iş yükleri ve akıl yürütme görevlerinde güçlü performans bildiriyor. Hızlı tek geçişli üretim yerine çok adımlı muhakeme içeren işler için bir model seçiyorsanız, bu model o aileye aittir.

Model metin kabul eder ve metin döndürür. Bağlam penceresi 262144 tokendır; bu, uzun belgeleri, genişletilmiş konuşma geçmişlerini veya büyük kod tabanlarını tek bir istekte tutabilecek kadar büyüktür. Maksimum çıktı 80000 tokendır, yani görev gerektirdiğinde yanıtlar uzun olabilir. Bir akıl yürütme modeli olduğu için akıl yürütmesini yanıtın bir parçası olarak açığa çıkarabilir ve bu davranışı koşulsuz olarak almak yerine reasoning ve include_reasoning parametreleri aracılığıyla siz kontrol edersiniz.

Bu yetenekler oldukça belirli bir kullanım kümesine işaret eder. Uzun bağlam artı akıl yürütme, modelin planlaması, araçları çağırması, sonuçları incelemesi ve birçok adım boyunca devam etmesi gereken ajan tabanlı iş akışlarına uygundur. Yanıtın çok miktarda metne yayılmış ayrıntılara bağlı olduğu sözleşmeler, araştırma makaleleri veya günlükler gibi uzun belgelerin analizine uygundur. Ayrıca, akıl yürütme izini isteyip bir sonuca nasıl varıldığını inceleyebildiğiniz için görünür muhakemeden yararlanan görevlere de uygundur. Araç kullanımı desteklenir, dolayısıyla fonksiyon çağırma ve yapılandırılmış ajan döngüleri uygulanabilir.

Modeli api14'ün OpenAI uyumlu API'si üzerinden "arcee-ai/trinity-large-thinking" model id'siyle çağırırsınız. Arayüz OpenAI şemasını izlediği için mevcut istemciler ve SDK'lar temel URL ve model id değişikliğiyle çalışır. Desteklenen istek parametreleri include_reasoning, max_tokens, reasoning, temperature, tool_choice, tools, top_k ve top_p'dir. Pratikte bu, çıktı uzunluğu denetimini, temperature, top_p ve top_k aracılığıyla örnekleme davranışını, araç tanımlarını ve seçimini ve akıl yürütmenin döndürülüp döndürülmeyeceğinin kontrolünü kapsar.

Akılda tutulması gereken bir nokta, akıl yürütme modellerinin yanıt kalitesi karşılığında gecikme ve token harcamasını değiş tokuş etmesidir; bu nedenle basit sınıflandırma, kısa özetleme veya yüksek hacimli düşük karmaşıklıkta üretim için daha küçük, akıl yürütmeyen bir model daha ekonomik bir seçim olabilir. Model yalnızca metindir, dolayısıyla görüntü, ses veya diğer kipler burada kapsam dışıdır. Bu sınırlar içinde, 262144 token bağlam, 80000 token çıktı üst sınırı ve araç desteği kombinasyonu onu ajan tabanlı ve uzun belge işleri için makul bir aday yapar.