OpenAI: GPT-4o-mini

GPT-4o-mini, OpenAI tarafından 18 Temmuz 2024 tarihinde yayımlanan bir metin üretim modelidir. OpenAI'ın küçük model hattında yer alır, o kademede GPT-4o'nun halefi olarak konumlandırılmıştır ve tek bir dar görev yerine genel amaçlı metin işleri için tasarlanmıştır. Bir uygulama için varsayılan model seçiyorsanız, bu tür bir model günlük isteklerin geniş bir yelpazesini karşılamak üzere tasarlanmıştır.

Model girdi olarak metin, görsel ve dosya kabul eder ve yalnızca metin döndürür. Bağlam penceresi 128.000 token'dır ve maksimum çıktı 16.384 token'dır. Bilgi kesim tarihi 31 Ekim 2023'tür, dolayısıyla bu tarihten sonraki her şey modelin eğitim sırasında öğrendiklerinin dışındadır. Metinle birlikte görsel ve dosya girdileri desteklendiği için tek bir istekte karışık içerik gönderebilir ve metin yanıtı alabilirsiniz; bu, uygulamanız zaten metin istemleriyle çalışıyorsa entegrasyonu basit tutar.

Bu yetenekler birkaç pratik kullanıma işaret eder. Belge ve dosya analizi doğal bir uyumdur, çünkü bir dosya geçirip içeriği üzerinden özet, çıkarım veya soru yanıtlama isteyebilirsiniz. Görsel anlama, bir ekran görüntüsünü betimleme, bir grafiği okuma veya bir fotoğraftan yapılandırılmış ayrıntıları çıkarma gibi görevleri kapsar. Genel sohbet, taslak yazma, sınıflandırma, yeniden yazma ve kod yardımı yalnızca metinle çalışır. Büyük bağlam penceresi, uzun belgelerin veya çok turlu konuşmaların birçok küçük isteğe bölünmeden ele alınabilmesi anlamına gelir ve 16.384 token'lık çıktı tavanı daha uzun üretilmiş yanıtlar için alan sağlar.

Modeli api14'ün OpenAI uyumlu API'si üzerinden "openai/gpt-4o-mini" model id'siyle çağırırsınız. Arayüz OpenAI biçimini izlediği için mevcut OpenAI SDK'ları ve istemcileri yalnızca bir base URL ve anahtar değişikliğiyle çalışır. Model geniş bir istek parametreleri kümesini destekler: frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p ve web_search_options. Araç çağırma ve yapılandırılmış çıktılar kullanılabilir, böylece modeli fonksiyon çağırma akışlarına bağlayabilir veya yanıtları bir şemaya zorlayabilirsiniz. seed parametresi yeniden üretilebilirliğe yardımcı olur ve web_search_options bir isteğin aramadan yararlanmasını sağlar.

Taahhütte bulunmadan önce dikkate değer iki sınır vardır. 31 Ekim 2023 bilgi kesim tarihi, modelin sonraki olaylara dair yerleşik bir farkındalığı olmadığı anlamına gelir, dolayısıyla zamana duyarlı sorular yalnızca modele güvenmek yerine erişim veya arama gerektirir. Çıktı yalnızca metindir, dolayısıyla üretilmiş görsel veya ses gerekiyorsa bu model doğru seçim değildir. Bu sınırlar dahilinde, metin ve görsel anlama iş yükleri için makul bir varsayılandır.