OpenAI: GPT-3.5 Turbo

GPT-3.5 Turbo, OpenAI tarafından geliştirilen bir metin modelidir ve api14 üzerinde openai/gpt-3.5-turbo olarak tanımlanır. OpenAI bunu en hızlı modeli olarak tanımlar ve sağlayıcı tarafından 2023-05-28 tarihinde yayımlanmıştır. Metin kategorisinde yer alır ve doğal dil veya kod anlamak ve üretmek için tasarlanmıştır; sohbet ve geleneksel tamamlama görevleri için optimize edilmiştir. Günlük metin işleri için genel amaçlı bir OpenAI modeli seçiyorsanız, bu, ekosistemin büyük bölümünün üzerine kurulduğu uzun süredir var olan varsayılan seçenektir.

Model girdi olarak metin kabul eder ve çıktı olarak metin döndürür, dolayısıyla planlamanız gereken bir görüntü, ses veya dosya işleme yoktur. Bağlam penceresi 16.385 tokendır ve maksimum çıktı 4.096 tokendır; bu, uzun girdilerin mümkün olduğu ancak yanıtın kendisinin bağlam boyutunun oldukça altında sınırlandığı anlamına gelir. Bilgi kesim tarihi 2021-09-30'dur, dolayısıyla bu tarihten sonraki her şey modelin eğitim verisinden değil, prompttan gelmelidir. Desteklenen istek parametreleri arasında temperature, top_p, max_tokens, stop, frequency_penalty, presence_penalty, logit_bias, logprobs, top_logprobs, seed, response_format, structured_outputs, tools ve tool_choice bulunur.

Bu yetenekler oldukça geniş bir pratik iş kümesine karşılık gelir. Sohbet asistanları, taslak yazma ve yeniden yazma, bağlam penceresine sığan belgelerin özetlenmesi, sabit bir şekle sınıflandırma ve çıkarım yapma ile kod üretimi veya açıklaması makul uyumlardır, çünkü model hem doğal dili hem de kodu işler. tools ve tool_choice desteklendiği için fonksiyon şemaları tanımlayabilir ve modelin bunları ne zaman çağıracağına karar vermesini sağlayabilirsiniz; bu, modelin veri talep etmesi gereken ajan tarzı iş akışlarına ve erişim hatlarına uygundur. seed parametresi tekrarlanabilir örnekleme istediğinizde yardımcı olur ve response_format ile structured_outputs, bir alt akış ayrıştırıcısı serbest metin yerine öngörülebilir bir yapı beklediğinde kullanışlıdır.

api14 üzerinden çağırmak, diğer OpenAI uyumlu uç noktalar gibi aynı şekilde çalışır. İsteğinizi openai/gpt-3.5-turbo model kimliğiyle chat completions rotasına gönderin ve gerektiğinde istek gövdesinde yukarıda listelenen parametreleri kullanın. OpenAI SDK'sına veya uyumlu bir istemciye karşı yazılmış kodunuz zaten varsa, temel URL'yi api14'e yönlendirmek ve model kimliğini değiştirmek normalde gereken tek değişikliktir.

Karar vermeden önce akılda tutulması gereken iki kısıt vardır. 2021-09-30 bilgi kesim tarihi, bu bağlamı siz sağlamadıkça modelin son olayları, kütüphaneleri veya API'leri bilmeyeceği anlamına gelir ve 4.096 token çıktı tavanı, tek bir yanıtta ne kadar üretebileceğini sınırlar. Çok büyük girdiler, çok uzun üretimler veya güncel bilgiye bağlı görevler için api14 üzerindeki farklı bir model size daha iyi hizmet edebilir.