Microsoft: Phi 4

Microsoft Phi 4 est un modèle de texte de Microsoft, publié le 10 janvier 2025 et identifié sur api14 comme microsoft/phi-4. Il provient de Microsoft Research, le groupe derrière la famille Phi, et le fournisseur le décrit comme un modèle de 14 milliards de paramètres conçu pour bien performer sur des tâches de raisonnement complexe tout en fonctionnant efficacement dans des situations à mémoire limitée ou lorsque des réponses rapides sont nécessaires. Il appartient à la catégorie texte, il est donc destiné au travail linguistique plutôt qu'aux images ou à l'audio.

Le modèle accepte une entrée texte et renvoie une sortie texte. Il dispose d'une fenêtre de contexte de 16 384 tokens et d'une sortie maximale de 14 745 tokens, avec une date de coupure des connaissances au 30 juin 2024. Ses paramètres de requête pris en charge sont frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k et top_p. Cette combinaison couvre les contrôles d'échantillonnage habituels ainsi que les sorties structurées, ce qui compte si vous avez besoin que la réponse respecte un schéma plutôt que d'arriver sous forme de texte libre.

Ces capacités indiquent quelques usages pratiques. Les invites à forte composante de raisonnement, comme l'analyse en plusieurs étapes, les problèmes de type mathématique et les questions de logique, constituent l'objectif annoncé, il convient donc aux tâches où le modèle doit passer par des étapes intermédiaires avant de répondre. Comme il est conçu pour fonctionner efficacement avec une mémoire limitée et pour répondre rapidement, il convient également aux déploiements sensibles à la latence ou à ressources contraintes, y compris les installations locales ou auto-hébergées où un modèle plus petit est préférable à un très grand modèle. Les sorties structurées et response_format le rendent utilisable pour l'extraction et la classification, lorsque vous souhaitez obtenir du JSON ou une autre forme définie en retour. Le contexte de 16 384 tokens prend en charge des entrées modérément longues telles que des documents, des transcriptions ou des fichiers de code, bien qu'il ne s'agisse pas d'un modèle à contexte long.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle microsoft/phi-4. Pointez votre client OpenAI existant vers l'URL de base d'api14, conservez le style de requête chat completions et définissez le champ model sur cet identifiant. Vous pouvez transmettre n'importe lequel des paramètres listés ci-dessus dans le corps de la requête, donc temperature, top_p, top_k, min_p, repetition_penalty, frequency_penalty, presence_penalty, logit_bias, seed, stop, max_tokens, response_format et structured_outputs sont tous disponibles pour ajuster ou contraindre la réponse.

La principale contrainte à garder à l'esprit est la fenêtre de contexte. À 16 384 tokens, avec jusqu'à 14 745 tokens de sortie, il convient bien aux invites ciblées et aux documents modérés, mais si votre entrée est une grande base de code, un long livre ou un historique de conversation étendu, un modèle avec un contexte plus grand vous servira mieux. La date de coupure des connaissances au 30 juin 2024 signifie également que le modèle n'a aucune connaissance des événements postérieurs à cette date, donc tout élément sensible au temps doit être fourni dans l'invite.