ScaleDown: Extract

ScaleDown: Extract, ScaleDown'dan bir metin modelidir ve özellikle açıklama güdümlü varlık çıkarımı için oluşturulmuştur. Sizi sabit bir varlık türü kümesinden seçim yapmaya zorlamak yerine, istediğiniz alanları düz İngilizce ile tanımlamanıza olanak tanır. Bu da onu genel bir sohbet modelinden farklı türde bir araç yapar: görevi, hedef alanlara ilişkin kendi açıklamanız rehberliğinde, ona verdiğiniz her neyse ondan yapılandırılmış bilgi çıkarmaktır.

Model girdi olarak metin, görsel ve dosya kabul eder ve metin döndürür. Bağlam penceresi 1.000.000 tokendır ve maksimum çıktı 900.000 tokendır. Çok büyük bir girdi penceresi ile büyük bir çıktı tavanının bu birleşimi, ona uzun belgeler veya karma medya verebileceğiniz ve yine de tek bir çağrıda geriye kayda değer bir çıkarım sonucu alabileceğiniz anlamına gelir. Desteklenen parametre listesi kasıtlı olarak kısadır: yalnızca max_tokens açığa çıkarılır; bu da davranışı geniş bir örnekleme ayar düğmesi kümesinden ziyade esas olarak sağladığınız varlık açıklamasıyla yönlendirilen bir modele uygundur.

Pratik kullanım durumları doğrudan bu yeteneklerden doğar. Sözleşmeleriniz, faturalarınız, raporlarınız veya taranmış evraklarınız varsa ve belirli alanların çıkarılması gerekiyorsa, bu alanları tanımlarsınız ve modelin onları bulmasını sağlarsınız. Metnin yanı sıra görseller ve dosyalar da kabul edildiği için, aynı çağrı her biçim için ayrı bir işlem hattı olmadan bir PDF'yi, bir ekran görüntüsünü veya düz bir metin dökümünü kapsayabilir. Milyon tokenlık bağlam, ilgili ayrıntılar uzun bir belgeye dağılmışsa ve bunu kendiniz parçalara ayırmak istemiyorsanız kullanışlıdır. Büyük çıktı tavanı, çıkarım sonucunun kendisi uzun olduğunda, örneğin çok sayıda varlıktan oluşan bir liste veya tablo benzeri bir yapı söz konusu olduğunda yardımcı olur.

Modele api14'ün OpenAI uyumlu API'si üzerinden "scaledown/extract" model id'sini kullanarak çağrı yaparsınız. Desteklenen tek istek parametresi max_tokens'tır, bu nedenle istek biçiminizi basit tutun ve alan açıklamalarını sağlayıcının beklediği yere, provider.options.scaledown.entities altına koyun. Arayüz OpenAI uyumlu olduğu için, mevcut istemciler ve SDK'lar genellikle model id'si ve uç nokta değişikliğiyle çalışır ve iş yükünüz için yanıt uzunluğunu sınırlamak üzere max_tokens'ı ayarlayabilirsiniz.

Bir model seçerken dar parametre yüzeyi dikkate değerdir. Göreviniz yaratıcı üretim, çok turlu konuşma veya örnekleme davranışı üzerinde ince kontrol gerektiriyorsa, genel amaçlı bir metin modeli daha iyi uyum sağlar. Extract tek bir işe yöneliktir ve bu işi, birçok ayar seçeneği sunarak değil, alanlara ilişkin açıklamanızı okuyarak yapar. Alanların bir şema olarak ifade edilmesinin değil de kelimelerle tanımlanmasının daha kolay olduğu çıkarım görevleri için, ilk denenecek makul bir varsayılan seçenektir.