OpenAI: GPT-4o-mini

GPT-4o-mini är en textgenereringsmodell från OpenAI, released 18 juli 2024. Den tillhör OpenAIs linje för små modeller, positionerad som efterträdaren till GPT-4o i den nivån, och den är byggd för allmän textbearbetning snarare än en enda smal uppgift. Om du väljer en standardmodell för en applikation är detta den typ av modell som är avsedd att hantera en bred uppsättning vardagliga förfrågningar.

Modellen accepterar text, bilder och filer som indata, och den returnerar endast text. Dess kontextfönster är 128 000 tokens, och maximala utdata är 16 384 tokens. Kunskapsavgränsningen är 31 oktober 2023, så allt efter det datumet ligger utanför vad modellen lärde sig under träningen. Eftersom bild- och filindata stöds tillsammans med text kan du skicka blandat innehåll i en enda förfrågan och få ett textsvar, vilket håller integrationen enkel om din applikation redan fungerar med textprompter.

Dessa funktioner pekar mot några praktiska användningsområden. Dokument- och filanalys är en naturlig matchning, eftersom du kan skicka en fil och begära en sammanfattning, extrahering eller frågor och svar över dess innehåll. Bildförståelse täcker uppgifter som att beskriva en skärmbild, läsa ett diagram eller plocka ut strukturerade detaljer ur ett foto. Allmän chatt, utkast, klassificering, omskrivning och kodassistans fungerar alla med enbart text. Det stora kontextfönstret innebär att långa dokument eller fleromgångskonversationer kan hanteras utan att dela upp dem i många små förfrågningar, och taket på 16 384 tokens för utdata ger utrymme för längre genererade svar.

Du anropar modellen genom api14s OpenAI-kompatibla API med modell-id:t "openai/gpt-4o-mini". Eftersom gränssnittet följer OpenAI-formatet fungerar befintliga OpenAI-SDK:er och klienter med endast en ändring av bas-URL och nyckel. Modellen stöder en bred uppsättning förfrågningsparametrar: frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p och web_search_options. Verktygsanrop och strukturerade utdata är tillgängliga, så du kan koppla in modellen i funktionsanropsflöden eller tvinga svar till ett schema. Parametern seed hjälper till med reproducerbarhet, och web_search_options låter en förfrågan hämta från sökning.

Två begränsningar är värda att notera innan du bestämmer dig. Kunskapsavgränsningen på 31 oktober 2023 innebär att modellen inte har någon inbyggd kännedom om senare händelser, så tidskänsliga frågor behöver hämtning eller sökning i stället för att förlita sig på modellen ensam. Utdata är endast text, så om du behöver genererade bilder eller ljud är denna modell inte rätt val. Inom dessa gränser är den en rimlig standard för arbetsbelastningar med text- och bildförståelse.