OpenAI: GPT-4 Turbo (batch)

GPT-4 Turbo (batch), api14 üzerinde openai/gpt-4-turbo:batch model kimliğiyle sunulan, OpenAI'ye ait bir metin üretim modelidir. OpenAI'nin GPT-4 Turbo serisinin, görüntü yeteneklerinin eklendiği sürümünün batch varyantıdır. api14, istekleri platformdaki diğer modeller için kullandığınız aynı OpenAI uyumlu arayüz üzerinden bu modele yönlendirir, dolayısıyla ayrı bir SDK veya entegrasyon çalışması gerekmez.

Model, metin ve görüntü girdisi kabul eder ve metin çıktısı üretir; bu da yardımcı olduğu durumlarda tek bir istekte prompt ve görüntüleri karıştırabileceğiniz anlamına gelir. 128.000 token'lık bir bağlam penceresini destekler ve yanıtlar 4.096 token'a kadar çıkabilir. Eğitim verileri Aralık 2023'e kadar uzanır. Görüntü istekleri JSON modu ve fonksiyon çağırma ile birlikte çalışır, yani yapılandırılmış çıktı ve araç kullanımı yalnızca metin tabanlı çağrılarla sınırlı değildir.

Bu yetenekler birkaç pratik kullanım kalıbına işaret eder. Uzun belgeler, kod tabanları veya transkriptler 128.000 token'lık pencereye rahatça sığar, bu nedenle büyük girdiler üzerinde özetleme, çıkarım ve soru yanıtlama ağır parçalama gerektirmeden uygulanabilir. Görüntüler girdi olarak kabul edildiği için ekran görüntüsü analizi, diyagram yorumlama ve taranmış sayfalardan belge ayrıştırma da kapsam içindedir. Fonksiyon çağırma ve yapılandırılmış çıktılar, modeli ajanlar, araç kullanan iş akışları ve makine tarafından okunabilir yanıtlar gerektiren ardışık düzenler için makul bir seçim haline getirir; JSON modu ise sonraki aşamadaki ayrıştırmayı öngörülebilir tutar.

api14 üzerinde çağırmak için, chat completions uç noktasına model alanı openai/gpt-4-turbo:batch olarak ayarlanmış bir istek gönderin, tıpkı OpenAI'nin kendi API'sinde yapacağınız gibi. Model frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs ve top_p parametrelerini destekler. Bu, örnekleme kontrollerini, seed ile belirlenimliliği, token sınırlarını, durdurma dizilerini, yapılandırılmış çıktı biçimlerini ve araç tanımlarını kapsar, dolayısıyla çoğu standart OpenAI tarzı istek gövdesi değişiklik yapılmadan çalışır.

Karar vermeden önce dikkate değer iki kısıt var. Çıktı, yanıt başına 4.096 token ile sınırlıdır, bu nedenle çok uzun tek tamamlamalar gerektiren görevlerin çağrılar arasında bölünmesi gerekebilir ve Aralık 2023 bilgi kesim tarihi, promptta siz sağlamadığınız sürece modelin bu tarihten sonrasına dair hiçbir farkındalığı olmadığı anlamına gelir. İş yükünüz daha yeni bilgi, daha büyük çıktı bütçeleri veya farklı bir maliyet profili gerektiriyorsa, bu modelde karar kılmadan önce api14 üzerinde mevcut diğer modellere göz atın.