Microsoft: Phi 4

Microsoft Phi 4, Microsoft tarafından 10 Ocak 2025 tarihinde yayımlanan ve api14 üzerinde microsoft/phi-4 olarak tanımlanan bir metin modelidir. Phi ailesinin arkasındaki grup olan Microsoft Research'ten gelir ve sağlayıcı, modeli sınırlı bellek durumlarında veya hızlı yanıtların gerektiği yerlerde verimli çalışırken karmaşık akıl yürütme görevlerinde iyi performans göstermek üzere oluşturulmuş 14 milyar parametreli bir model olarak tanımlar. Metin kategorisinde yer alır, yani görüntüler veya sesler yerine dil işlerine yöneliktir.

Model metin girdisi kabul eder ve metin çıktısı döndürür. 16.384 token bağlam penceresine ve 14.745 token maksimum çıktıya sahiptir, bilgi kesim tarihi 30 Haziran 2024'tür. Desteklenen istek parametreleri frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k ve top_p'dir. Bu kombinasyon, olağan örnekleme kontrollerinin yanı sıra yapılandırılmış çıktıları da kapsar; bu, yanıtın serbest metin olarak gelmesi yerine bir şemaya uyması gerektiğinde önemlidir.

Bu yetenekler birkaç pratik kullanıma işaret eder. Çok adımlı analiz, matematik tarzı problemler ve mantık soruları gibi akıl yürütme ağırlıklı istemler belirtilen odak noktasıdır, bu nedenle modelin yanıtlamadan önce ara adımlardan geçmesi gereken görevler için uygundur. Sınırlı bellekle verimli çalışacak ve hızlı yanıt verecek şekilde tasarlandığından, çok büyük bir model yerine daha küçük bir modelin tercih edildiği yerel veya kendi kendine barındırılan kurulumlar dahil olmak üzere gecikmeye duyarlı veya kaynak kısıtlı dağıtımlara da uygundur. Yapılandırılmış çıktılar ve response_format, JSON veya başka bir tanımlı biçimde geri dönüş istediğiniz çıkarım ve sınıflandırma için onu kullanılabilir kılar. 16.384 token bağlam, belgeler, transkriptler veya kod dosyaları gibi orta uzunlukta girdileri destekler, ancak uzun bağlamlı bir model değildir.

Onu api14'ün OpenAI uyumlu API'si üzerinden microsoft/phi-4 model kimliğini kullanarak çağırırsınız. Mevcut OpenAI istemcinizi api14 temel URL'sine yönlendirin, sohbet tamamlama tarzı isteği koruyun ve model alanını bu kimliğe ayarlayın. Yukarıda listelenen parametrelerden herhangi birini istek gövdesinde iletebilirsiniz, böylece temperature, top_p, top_k, min_p, repetition_penalty, frequency_penalty, presence_penalty, logit_bias, seed, stop, max_tokens, response_format ve structured_outputs yanıtı ayarlamak veya kısıtlamak için kullanılabilir.

Akılda tutulması gereken ana kısıt bağlam penceresidir. 16.384 token ile ve 14.745 token'a kadar çıktıyla, odaklanmış istemler ve orta düzey belgeler için iyi bir uyumdur, ancak girdiniz büyük bir kod tabanı, uzun bir kitap veya uzun bir konuşma geçmişi ise daha büyük bağlama sahip bir model size daha iyi hizmet edecektir. 30 Haziran 2024 bilgi kesim tarihi ayrıca modelin bu tarihten sonraki olaylardan haberi olmadığı anlamına gelir, bu nedenle zamana duyarlı her şeyin istemde sağlanması gerekir.