Microsoft: Phi 4

Microsoft Phi 4 är en textmodell från Microsoft, släppt den 10 januari 2025 och identifierad på api14 som microsoft/phi-4. Den kommer från Microsoft Research, gruppen bakom Phi-familjen, och leverantören beskriver den som en modell med 14 miljarder parametrar byggd för att prestera väl på komplexa resonemangsuppgifter samtidigt som den arbetar effektivt i situationer med begränsat minne eller där snabba svar behövs. Den tillhör kategorin text, så den är inriktad på språkarbete snarare än bilder eller ljud.

Modellen tar emot textinmatning och returnerar textutdata. Den har ett kontextfönster på 16 384 tokens och en maximal utdata på 14 745 tokens, med en kunskapsgräns den 30 juni 2024. Dess parametrar för förfrågningar som stöds är frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k och top_p. Den kombinationen täcker de vanliga samplingskontrollerna plus strukturerade utdata, vilket spelar roll om du behöver att svaret följer ett schema i stället för att komma som fri text.

Dessa funktioner pekar mot några praktiska användningsområden. Resonemangstunga prompter som flerstegsanalys, matematikliknande problem och logikfrågor är det angivna fokuset, så den passar uppgifter där modellen måste arbeta sig igenom mellanliggande steg innan den svarar. Eftersom den är utformad för att köras effektivt med begränsat minne och svara snabbt, passar den också för latenskänsliga eller resursbegränsade distributioner, inklusive lokala eller egenhostade uppsättningar där en mindre modell är att föredra framför en mycket stor. Strukturerade utdata och response_format gör den användbar för extrahering och klassificering, där du vill ha JSON eller en annan definierad form tillbaka. Kontextfönstret på 16 384 tokens stöder måttligt långa indata som dokument, transkript eller kodfiler, även om det inte är en modell för lång kontext.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t microsoft/phi-4. Rikta din befintliga OpenAI-klient mot api14:s bas-URL, behåll chat completions-stilen för förfrågan och ange modellfältet till det id:t. Du kan skicka någon av parametrarna ovan i förfrågans body, så temperature, top_p, top_k, min_p, repetition_penalty, frequency_penalty, presence_penalty, logit_bias, seed, stop, max_tokens, response_format och structured_outputs är alla tillgängliga för att justera eller begränsa svaret.

Den främsta begränsningen att ha i åtanke är kontextfönstret. Vid 16 384 tokens, med upp till 14 745 tokens utdata, är den en bra matchning för fokuserade prompter och måttliga dokument, men om din indata är en stor kodbas, en lång bok eller en omfattande konversationshistorik kommer en modell med större kontext att tjäna dig bättre. Kunskapsgränsen den 30 juni 2024 innebär också att modellen inte har någon kännedom om händelser efter det datumet, så allt tidskänsligt behöver tillhandahållas i prompten.