Inception: Mercury Decide (free)

Inception: Mercury Decide (free), Inception tarafından sunulan yapılandırılmış bir karar modelidir ve inception/mercury-decide:free model kimliğiyle yayımlanmıştır. Genel sohbet kategorisinde değil, kararlar kategorisinde yer alır; bu da ne için olduğunu gösterir: açık uçlu bir sohbet yürütmek yerine belirli, iyi biçimlendirilmiş soruları yanıtlamak için tasarlanmıştır. Inception bunu bir System One uç noktası olarak sunar; bu ad, bir sohbet ürününün ön yüzünde değil, daha büyük bir işlem hattı içinde kullanacağınız türden hızlı, doğrudan yanıtları işaret eder.

Model tek girdi olarak metni alır ve çıktı olarak kararları döndürür. Inception'a göre, bir durumu tiplendirilmiş sorularla birlikte gönderirsiniz ve model bir seçim, bir puan ya da bir evet/hayır yanıtı döndürür. Bu çıktı biçimi tanımlayıcı özelliktir: serbest biçimli düzyazı yerine, kod içinde dallanabileceğiniz yapılandırılmış bir sonuç alırsınız. Bağlam penceresi 65536 token'dır ve maksimum çıktı 58982 token'dır. Çağrının kendisinin temelleri dışında hiçbir istek parametresini desteklemez, dolayısıyla ayarlayabileceğiniz bir temperature, top_p veya benzeri bir düğme yoktur.

Pratik kullanımlar doğrudan bu tasarımdan kaynaklanır. Uygulamanızın sağlanan bağlam üzerinde tekrarlanabilir bir yargıya varması gereken her yerde Mercury Decide bir adaydır: yönlendirme veya triyaj kararları, bir öğeyi durumda tanımladığınız ölçütlere göre puanlama ya da bir metin bütünü hakkında evet/hayır sorularını yanıtlama. Girdi metin ve çıktı karar olduğu için, bir ajan döngüsü içinde bir adım, bir moderasyon veya sınıflandırma aşaması ya da sonraki bir bileşenin seçimi veya puanı tükettiği bir iş akışı olarak doğal biçimde uyar. Büyük bağlam penceresi, duruma ciddi miktarda destekleyici materyal ekleyebileceğiniz ve bunu çağrılar arasında bölmek zorunda olmadığınız anlamına gelir.

Bunu api14'ün OpenAI uyumlu API'si üzerinden inception/mercury-decide:free model kimliğini kullanarak çağırırsınız, böylece mevcut OpenAI SDK'ları ve istemcileri yalnızca bir temel URL ve anahtar değişikliğiyle çalışır. Model desteklenen hiçbir parametre listelemediği için isteğinizi asgari düzeyde tutun: model kimliği, durumu ve tiplendirilmiş soruları içeren mesajlarınız ve başka hiçbir şey. Örnekleme denetimlerinin dikkate alınacağını varsaymayın ve yanıtı sohbet metni olarak değil, karar yükü olarak ele alın.

Tartmanız gereken bir nokta, ücretsiz ibaresi ve ayarlanabilir parametrelerin yokluğudur. Göreviniz yaratıcı yazarlık, açık uçlu diyalog veya örnekleme davranışı üzerinde ince denetim gerektiriyorsa, genel amaçlı bir sohbet modeli daha iyi uyacaktır. Mercury Decide en güçlü olduğu noktada, soru darsa, yanıt ayrıksa ve o yanıtın kodunuzun doğrudan üzerinde işlem yapabileceği bir biçimde döndürülmesini istiyorsanız.