Nace.AI: Drex v2.0

Nace.AI: Drex v2.0, Nace.AI'dan bir karar modelidir ve Drex v1.5'in daha büyük halefidir. 3B aktif parametreye sahip 35B mixture-of-experts modeli olarak inşa edilmiştir ve genel sohbet kategorisinde değil, kararlar kategorisinde yer alır. Eğer bunu değerlendiriyorsanız, önemli olan çerçeveleme şudur: alışılmış anlamda bir metin üretici değildir; tanımlanmış bir durumu alıp bununla ilgili belirli sorulara yanıtlar döndürmek üzere tasarlanmıştır.

Model, JSON dahil olmak üzere metin girdisi kabul eder ve çıktı olarak kararlar üretir. Sağlayıcı, amaçlanan deseni modele bir durum (metin veya JSON) ile evet/hayır ya da çoktan seçmeli gibi tipli sorular vermek ve karşılık gelen yanıtları almak olarak tanımlar. Bağlam penceresi 131072 tokendır ve maksimum çıktı 117964 tokendır. Çıktı modalitesi serbest biçimli düzyazı değil kararlar olduğu için, bir deneme ya da sohbet yanıtı değil, sorduğunuz sorulara yapılandırılmış yanıtlar beklemelisiniz.

Bu yapı oldukça belirli bir kullanım kümesine işaret eder. Metin veya JSON olarak serileştirebileceğiniz bir durumunuz ve bununla ilgili ayrık sorular kümeniz olan her yerde Drex v2.0 bir adaydır: triyaj ve yönlendirme kararları, sabit bir seçenek kümesine sınıflandırma, evet/hayır geçitleme kontrolleri veya tanımlı bir yanıt uzayı üzerinde çoktan seçmeli seçim. Büyük bağlam penceresi, ilettiğiniz durumun uzun olabileceği anlamına gelir; böylece sorular kısa bir kesit yerine geniş bir girdi gövdesine dayandırılabilir. Üretilmiş düzyazı, özetleme veya açık uçlu konuşma istediğiniz görevler için belirgin biçimde daha az uygundur, çünkü bunlar çıktı modalitesinin kapsamına girmez.

Modeli api14'ün OpenAI uyumlu API'si üzerinden "nace-ai/drex-v2.0" model id'siyle çağırırsınız. API OpenAI uyumlu olduğu için mevcut bir OpenAI istemcisini api14'e yönlendirebilir ve istekleri olağan chat completions biçiminde, model alanı bu id'ye ayarlanmış olarak gönderebilirsiniz. Modelin desteklenen parametre listelemediğini unutmayın; bu nedenle temperature veya top_p gibi ayar düğmelerinin kabul edildiğini varsaymamalısınız; girdi durumunu ve tipli sorularınızı gönderin ve varsayılanlara güvenin. Bu sayfadaki canlı fiyat tablosu bir isteğin maliyetini kapsar.

Sınırlar konusunda buradaki olgular dardır. Model metin girer ve kararlar çıkarır; bu nedenle göreviniz görüntü veya ses girdisi ya da çıktı olarak üretilmiş metin gerektiriyorsa başka bir model daha iyi uyacaktır. Aynı şekilde, desteklenen parametre listelenmediği için işlem hattınız örnekleme davranışını ayarlamaya bağlıysa bunu taahhüt etmeden önce kontrol edin. Bu sınırlar içinde Drex v2.0, doğrudan uzun metin veya JSON durumları üzerinde yapılandırılmış karar görevlerine yönelmiştir.