OpenAI: GPT-4o-mini (2024-07-18)

GPT-4o-mini (2024-07-18), 18 Temmuz 2024'te yayımlanan, OpenAI'dan bir metin üretim modelidir. OpenAI'ın küçük model hattında yer alır ve sağlayıcı tarafından o katmandaki en gelişmiş küçük modeli ve GPT-4 Omni'nin halefi olarak konumlandırılmıştır. Sürümlenmiş model kimliği anlık görüntüyü 2024-07-18'e sabitler, böylece davranış çağrılar arasında tutarlı kalır ve kayan bir takma adla değişmez.

Model girdi olarak metin, görsel ve dosya kabul eder ve yalnızca metin döndürür. 128.000 token'lık bir bağlam penceresine sahiptir ve tek bir yanıtta en fazla 16.384 çıktı token'ı üretebilir. Bilgi kesim tarihi 31 Ekim 2023'tür, dolayısıyla bu tarihten sonraki her şey prompt'tan, sağladığınız dosyalardan veya bir arama aracından gelmelidir. Görsel girdisi desteklendiği için ekran görüntülerini, taranmış sayfaları veya diyagramları metin talimatlarının yanında iletebilir ve metin yanıtı alabilirsiniz.

Bu yetenekler bir dizi günlük geliştirici görevine uygundur. Belge ve dosya girdisi sözleşmeler, raporlar veya PDF'ler üzerinde özetleme, çıkarım ve soru yanıtlama için iyi çalışır; görsel girdisi ise grafikleri, fişleri, kullanıcı arayüzü ekran görüntülerini ve fotoğraflanmış metinleri okumayı kapsar. 128k bağlam, uzun transkriptleri, kod tabanlarını veya çok belgeli paketleri önce parçalara ayırmadan göndermenizi sağlar. Araç çağırma ve yapılandırılmış çıktılar, onu ajanlar, fonksiyon yönlendirme ve bir şemaya uygun JSON gerektiren ardışık düzenler için makul bir seçim haline getirir; seed, temperature ve ceza parametreleri ise çıktının ne kadar belirlenimci veya çeşitli olacağını kontrol etmenizi sağlar.

Modeli api14'ün OpenAI uyumlu API'si üzerinden "openai/gpt-4o-mini-2024-07-18" model kimliğiyle çağırırsınız. Arayüz OpenAI chat completions yapısını izlediği için mevcut OpenAI SDK'ları ve istemcileri yalnızca bir base URL değişikliğiyle çalışır. Desteklediği istek parametreleri şunlardır: frequency_penalty, logit_bias, logprobs, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p ve web_search_options. Bu, örnekleme kontrollerini, token sınırlarını, durdurma dizilerini, log olasılığı incelemesini, JSON ve şemayla kısıtlanmış çıktıyı, araç tanımlarını ve zorunlu araç seçimini ve web arama seçeneklerini kapsar.

Karar vermeden önce dikkate değer iki kısıt vardır. Çıktı yalnızca metindir, dolayısıyla üretilmiş görseller, ses veya embedding'lere ihtiyacınız varsa bu model uygun değildir. 31 Ekim 2023 bilgi kesim tarihi, zamana duyarlı soruların modelin kendi bilgisine güvenmek yerine erişim, dosya girdisi veya web arama seçenekleri gerektirdiği anlamına gelir. 16.384 token'lık çıktı tavanı ise tek bir yanıtın ne kadar uzun olabileceğini sınırlar; bu, uzun biçimli üretim görevleri için önemlidir.