OpenAI: GPT-4o-mini (2024-07-18)

GPT-4o-mini (2024-07-18) är en textgenereringsmodell från OpenAI, släppt den 18 juli 2024. Den tillhör OpenAIs linje för små modeller och positioneras av leverantören som dess mest avancerade lilla modell och efterträdaren till GPT-4 Omni i den nivån. Det versionsnumrerade modell-id:t fäster ögonblicksbilden vid 2024-07-18, så beteendet förblir konsekvent mellan anrop i stället för att förskjutas med ett flytande alias.

Modellen tar text, bilder och filer som indata och returnerar endast text. Den har ett kontextfönster på 128 000 tokens och kan producera upp till 16 384 utdata-tokens i ett enda svar. Dess kunskapsgräns är den 31 oktober 2023, så allt efter det datumet måste komma från prompten, från filer du tillhandahåller eller från ett sökverktyg. Eftersom bildindata stöds kan du skicka skärmbilder, skannade sidor eller diagram tillsammans med textinstruktioner och få ett textsvar tillbaka.

Dessa funktioner passar en rad vardagliga utvecklaruppgifter. Indata i form av dokument och filer fungerar bra för sammanfattning, extrahering och frågebesvarande över kontrakt, rapporter eller PDF-filer, medan bildindata täcker läsning av diagram, kvitton, UI-skärmbilder och fotograferad text. Kontextfönstret på 128k låter dig skicka långa transkriptioner, kodbaser eller paket med flera dokument utan att dela upp dem först. Verktygsanrop och strukturerade utdata gör den till ett rimligt val för agenter, funktionsdirigering och pipelines som behöver JSON formad enligt ett schema, och parametrarna seed, temperature och penalty ger dig kontroll över hur deterministiska eller varierade utdata är.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t "openai/gpt-4o-mini-2024-07-18". Eftersom gränssnittet följer formen för OpenAI chat completions fungerar befintliga OpenAI-SDK:er och klienter med en ändring av bas-URL. De begärandeparametrar den stöder är frequency_penalty, logit_bias, logprobs, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p och web_search_options. Det täcker samplingskontroller, tokenbegränsningar, stoppsekvenser, inspektion av loggsannolikheter, JSON- och schemabegränsade utdata, verktygsdefinitioner och tvingat verktygsval samt sökalternativ för webben.

Två begränsningar är värda att notera innan du binder dig. Utdata är endast text, så om du behöver genererade bilder, ljud eller embeddings är den här modellen inte rätt val. Kunskapsgränsen den 31 oktober 2023 innebär att tidskänsliga frågor behöver hämtning, filindata eller sökalternativ för webben i stället för att förlita sig på modellens egen kunskap. Och taket på 16 384 utdata-tokens begränsar hur långt ett enskilt svar kan vara, vilket spelar roll för uppgifter med långformig generering.