OpenAI: GPT-4o

GPT-4o, OpenAI tarafından geliştirilen bir metin üretim modelidir ve api14 üzerinde openai/gpt-4o olarak tanımlanır. Adı "omni" kelimesinden gelir ve birden fazla girdi türünü kabul ettiğini yansıtır. Sağlayıcı tarafından 13 Mayıs 2024 tarihinde yayımlanmıştır ve metin kategorisinde yer alır, bilgi kesim tarihi 31 Ekim 2023'tür. GPT-4 Turbo kullandıysanız, GPT-4o o zeka seviyesini koruyacak şekilde konumlandırılmıştır, bu nedenle özel bir OpenAI modeli yerine genel amaçlı bir model istediğinizde makul bir varsayılan seçimdir.

Girdi olarak model metin, görsel ve dosya kabul eder ve yalnızca metin üretir. Bu kombinasyon, istemin yalnızca düz metin olmadığı görevler için önemlidir: bir ekran görüntüsü, taranmış bir sayfa veya ekli bir belge talimatlarınızla birlikte gönderilebilir ve model metin olarak yanıt verir. Bağlam penceresi 128.000 tokendır, bu uzun belgeler, çok turlu konuşmalar veya büyük kod dosyaları için tek bir istekte yeterlidir. Çıktı yanıt başına 16.384 token ile sınırlıdır, bu nedenle çok uzun üretimlerin bu tavan etrafında planlanması gerekir, örneğin bölümleri sırayla istemek gibi.

Pratik kullanımlar bu yeteneklerden doğar. Belge soru cevaplama ve özetleme, bir dosya eklediğinizde veya uzun bir dökümü yapıştırıp belirli yanıtlar istediğinizde iyi çalışır. Görsel anlama; grafikleri okuma, ekran görüntülerini betimleme, fotoğraflardan metin çıkarma veya bir arayüz taslağını şartnameye göre kontrol etme gibi görevleri destekler. Model araçları ve yapılandırılmış çıktıları desteklediği için, yanıtın bir şemaya uyması gereken ajan tarzı iş akışlarına ve veri çıkarma ardışık düzenlerine de uygundur. Genel sohbet, taslak yazma, yeniden yazma ve kod yardımı kapsam içindedir ve uzun bağlam, onu tek parçacıklar yerine depo düzeyindeki sorular için kullanılabilir kılar.

Modeli api14'ün OpenAI uyumlu API'si üzerinden openai/gpt-4o model kimliğiyle çağırırsınız, böylece mevcut OpenAI SDK'ları ve istemcileri yalnızca temel URL ve anahtar değiştirilerek çalışır. Desteklenen istek parametreleri şunlardır: frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p ve web_search_options. Pratikte bu; örnekleme kontrollerini, seed aracılığıyla deterministik benzeri davranışı, response_format ve structured_outputs ile JSON ve şema kısıtlı çıktıyı, tools ve tool_choice ile fonksiyon çağrımını, token sınırlarını ve isteğe bağlı web aramasını kapsar.

Seçim yaparken akılda tutulması gereken iki sınır vardır. Çıktı 16.384 tokenda durur, bu nedenle tek bir çok uzun üretime ihtiyacınız varsa işi bölmeniz veya daha büyük çıktı iznine sahip bir model seçmeniz gerekebilir. 31 Ekim 2023 bilgi kesim tarihi, modelin sonraki olayları kendi başına bilmediği anlamına gelir; web_search_options parametresi veya kendi getirdiğiniz bağlamın yararlı olduğu yer burasıdır. Göreviniz tamamen metinse ve görsel veya dosya girdisinden fayda sağlamıyorsa, aynı iş için daha küçük, yalnızca metin bir model daha ucuz ve daha hızlı olabilir.