Microsoft: Phi 4

Microsoft Phi 4 ist ein Textmodell von Microsoft, veröffentlicht am 10. Januar 2025 und auf api14 als microsoft/phi-4 identifiziert. Es stammt von Microsoft Research, der Gruppe hinter der Phi-Familie, und der Anbieter beschreibt es als ein Modell mit 14 Milliarden Parametern, das entwickelt wurde, um bei komplexen Reasoning-Aufgaben gute Leistungen zu erbringen und gleichzeitig effizient in Situationen mit begrenztem Speicher oder wenn schnelle Antworten benötigt werden zu arbeiten. Es liegt in der Kategorie Text, richtet sich also an Spracharbeit statt an Bilder oder Audio.

Das Modell akzeptiert Texteingabe und gibt Textausgabe zurück. Es hat ein Kontextfenster von 16.384 Tokens und eine maximale Ausgabe von 14.745 Tokens, mit einem Wissensstand vom 30. Juni 2024. Seine unterstützten Anfrageparameter sind frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k und top_p. Diese Kombination deckt die üblichen Sampling-Steuerungen plus strukturierte Ausgaben ab, was wichtig ist, wenn die Antwort einem Schema entsprechen soll statt als freier Text zu kommen.

Diese Fähigkeiten deuten auf einige praktische Einsatzmöglichkeiten hin. Reasoning-lastige Prompts wie mehrstufige Analysen, mathematikähnliche Probleme und Logikfragen sind der erklärte Schwerpunkt, daher eignet es sich für Aufgaben, bei denen das Modell Zwischenschritte durcharbeiten muss, bevor es antwortet. Da es darauf ausgelegt ist, effizient mit begrenztem Speicher zu laufen und schnell zu antworten, passt es auch zu latenzempfindlichen oder ressourcenbeschränkten Bereitstellungen, einschließlich lokaler oder selbst gehosteter Setups, bei denen ein kleineres Modell einem sehr großen vorzuziehen ist. Strukturierte Ausgaben und response_format machen es nutzbar für Extraktion und Klassifizierung, wo Sie JSON oder eine andere definierte Form zurückbekommen möchten. Der Kontext von 16.384 Tokens unterstützt mäßig lange Eingaben wie Dokumente, Transkripte oder Codedateien, obwohl es kein Langkontextmodell ist.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID microsoft/phi-4 auf. Richten Sie Ihren vorhandenen OpenAI-Client auf die Basis-URL von api14, behalten Sie den Anfragestil der Chat Completions bei und setzen Sie das Feld model auf diese ID. Sie können jeden der oben aufgeführten Parameter im Anfragetext übergeben, sodass temperature, top_p, top_k, min_p, repetition_penalty, frequency_penalty, presence_penalty, logit_bias, seed, stop, max_tokens, response_format und structured_outputs alle verfügbar sind, um die Antwort abzustimmen oder einzuschränken.

Die wichtigste Einschränkung, die Sie beachten sollten, ist das Kontextfenster. Mit 16.384 Tokens und bis zu 14.745 Tokens Ausgabe ist es gut geeignet für fokussierte Prompts und mäßig große Dokumente, aber wenn Ihre Eingabe eine große Codebasis, ein langes Buch oder ein umfangreicher Gesprächsverlauf ist, wird Ihnen ein Modell mit größerem Kontext besser dienen. Der Wissensstand vom 30. Juni 2024 bedeutet außerdem, dass das Modell keine Kenntnis von Ereignissen nach diesem Datum hat, sodass alles Zeitkritische im Prompt mitgeliefert werden muss.