OpenAI: GPT-4 Turbo

GPT-4 Turbo, OpenAI tarafından geliştirilen bir metin üretim modelidir ve api14 üzerinde openai/gpt-4-turbo model kimliğiyle listelenmiştir. GPT-4 Turbo hattının en yeni varyantıdır ve GPT-4 Turbo serisine görüntü işleme yetenekleri ekler. OpenAI bunu JSON modu ve fonksiyon çağırma ile birlikte görüntü isteklerini de desteklediği şeklinde tanımlar ve eğitim verileri Aralık 2023'e kadar uzanır.

Model girdi olarak metin ve görüntüleri kabul eder ve metin döndürür. 128.000 token'lık bir bağlam penceresine sahiptir, bu da uzun belgelerin, genişletilmiş konuşmaların ve birden fazla görüntünün tek bir istekte işlenmesine olanak tanır. Maksimum çıktı 4.096 token'dır, yani girdi büyük olsa bile yanıtlar sınırlıdır. Bilgi kesim tarihi 2023-12-31'dir, yani bu tarihten sonraki olaylardan, siz bilgiyi istemde sağlamadığınız sürece haberdar değildir.

Metnin yanı sıra görüntüleri de okuduğu için model, ekran görüntülerinden, diyagramlardan, grafiklerden ve taranmış belgelerden bilgi tanımlama veya çıkarma, yüklenen bir görüntü hakkında soruları yanıtlama ya da görsel bağlamı yazılı bir talimatla birleştirme gibi görevlere uygundur. Geniş bağlam penceresi, uzun raporları özetlemek, büyük kod dosyalarını veya sözleşmeleri incelemek ve uzun çok turlu konuşmaları sürdürmek için makul bir uyum sağlar. Araç çağırma ve yapılandırılmış çıktılar, modelin fonksiyonları seçtiği veya verileri tanımlanmış bir biçimde döndürdüğü iş akışları oluşturmanıza olanak tanır; bu, ajanlar, çıkarım ardışık düzenleri ve makine tarafından okunabilir sonuçlara ihtiyaç duyan entegrasyonlar için kullanışlıdır.

Modeli api14'ün OpenAI uyumlu API'si aracılığıyla openai/gpt-4-turbo model kimliğini kullanarak çağırırsınız, böylece mevcut OpenAI SDK'ları ve istemcileri yalnızca bir temel URL ve anahtar değişikliğiyle çalışır. Desteklenen istek parametreleri frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs ve top_p'dir. Bu, örnekleme kontrollerini, seed aracılığıyla deterministik benzeri davranışı, token sınırlarını, durdurma dizilerini, logprobs ve top_logprobs aracılığıyla olasılık incelemesini, yapılandırılmış çıktı biçimlendirmesini ve tool_choice ile fonksiyon veya araç çağırmayı kapsar.

Bu modeli seçerken dikkate değer iki kısıt vardır. Çıktı 4.096 token ile sınırlıdır, bu nedenle çok uzun tek yanıtlar gerektiren görevler parçalama veya daha yüksek çıktı sınırına sahip bir model gerektirebilir. 2023-12-31 bilgi kesim tarihi, daha yeni olaylarla ilgili soruların sağladığınız bağlama bağlı olduğu anlamına gelir. İş yükünüz yalnızca metinse ve görüntü girdisinden fayda sağlamıyorsa, metne odaklı bir model daha basit bir uyum olabilir, ancak 128.000 token bağlam içinde karışık metin ve görüntü istekleri için bu model yaygın durumları kapsar.