OpenAI: gpt-oss-20b (batch)

OpenAI: gpt-oss-20b (batch), Apache 2.0 lisansı altında yayımlanan, OpenAI'dan açık ağırlıklı bir metin modelidir. Her ileri geçişte 3.6B aktif parametreye sahip, Mixture-of-Experts (MoE) mimarisi üzerine kurulu 21B parametreli bir modeldir. Batch varyantı api14 üzerinden bir metin üretim uç noktası olarak sunulur ve isteklerde kullandığınız model id değeri openai/gpt-oss-20b:batch şeklindedir.

Model metin girdisi kabul eder ve metin çıktısı üretir. 131072 token bağlam penceresine ve 117964 token maksimum çıktıya sahiptir, bilgi kesim tarihi 2024-06-30'dur. Akıl yürütme yeteneği olan bir model olduğu için istekler akıl yürütme çıktısını etkinleştirebilir ve ne kadar akıl yürütme çabası uygulanacağını kontrol edebilir. Ayrıca yapılandırılmış çıktıları ve yanıt formatlarını destekler, bu da onu yalnızca içeriğin değil döndürülen metnin biçiminin de önemli olduğu görevler için uygun kılar.

Bu yetenekler oldukça geniş bir pratik kullanım kümesine işaret eder. Uzun bağlam işleme, belge özetleme, çok dosyalı kod incelemesi ve büyük referans materyalleri üzerinde soru yanıtlama için uygundur. Akıl yürütme desteği, modelin ara adımlar üzerinden çalışmasından fayda sağladığı çok adımlı problemler, planlama ve analiz için yardımcı olur. Araç çağırma ve yapılandırılmış çıktılar, ajan tarzı iş akışlarına, sabit şemalara veri çıkarımına ve makine tarafından okunabilir yanıtlar gerektiren ardışık düzenlere uyar. Batch varyantı, anlık etkileşimden çok verimliliğin önemli olduğu iş yüklerini hedefler; çevrimdışı üretim, toplu sınıflandırma ve veri kümesi zenginleştirme gibi.

api14 üzerinden çağırmak için, openai/gpt-oss-20b:batch model id değeriyle OpenAI uyumlu chat completions arayüzünü kullanın. İstek gövdesi frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k ve top_p parametrelerini kabul eder. Zaten bir OpenAI istemci kütüphanesi kullanıyorsanız, onu api14 temel URL'sine yönlendirebilir ve mevcut istek yapınızı koruyabilir, yalnızca model id değerini ve ayarlamak istediğiniz parametreleri değiştirebilirsiniz.

Bilgi kesim tarihini unutmayın: model 2024-06-30 sonrasındaki olayları bilmez, bu nedenle zamana duyarlı her şey için erişim veya farklı bir model gerekebilir. Girdi yalnızca metindir, bu nedenle görüntü veya ses görevleri kapsamı dışındadır. İş yükünüz batch işleme yerine düşük gecikmeli etkileşimli yanıtlar gerektiriyorsa, batch olmayan bir dağıtım daha uygun olabilir.