OpenAI: GPT-4

GPT-4 är en textmodell från OpenAI, listad på api14 under modell-id openai/gpt-4. Den tillhör kategorin text och beskrivs av leverantören som OpenAIs flaggskepp inom storskaliga språkmodeller, byggd för att lösa svåra problem med högre noggrannhet än tidigare modeller genom bredare allmän kunskap och avancerad resonemangsförmåga. Leverantörens utgivningsdatum är 2023-05-28, och modellens kunskapsgräns är 2021-09-30.

På api14 accepterar modellen textinmatning och returnerar textutdata. Den har en kontextlängd på 8191 tokens och en maximal utdata på 4096 tokens. Parametrar som stöds i förfrågningar inkluderar temperature, top_p, frequency_penalty, presence_penalty, stop, seed, logit_bias, logprobs, top_logprobs, max_tokens, max_completion_tokens, response_format, structured_outputs, tools och tool_choice. Den kombinationen täcker samplingskontroller, deterministiskt beteende via seed, token-nivå-inspektion genom logprobs och funktionsanrop genom tools-parametrarna.

De praktiska användningsområdena följer av dessa funktioner. Allmänt resonemang och kunskapsintensiv frågebesvarande passar modellens angivna styrkor. Längre prompter är genomförbara inom kontexten på 8191 tokens, så dokumentsammanfattning, utformning av flera stycken, extrahering och omskrivningsuppgifter är rimliga, så länge indata plus den begärda utdatan håller sig inom fönstret. Eftersom tools och tool_choice stöds kan modellen användas som resonemangssteget i en agent eller ett arbetsflöde som anropar externa funktioner. Strukturerade utdata och response_format är till hjälp när du behöver maskinläsbara resultat snarare än fri prosa, och logprobs eller top_logprobs är användbara när du vill inspektera hur säker modellen var vid varje token, till exempel i klassificerings- eller utvärderingsflöden.

Att anropa den via api14 fungerar på samma sätt som vilken annan OpenAI-kompatibel endpoint som helst. Skicka en chat completions-förfrågan till gatewayen med modellfältet satt till openai/gpt-4, och skicka med dina valda parametrar i förfrågans body. Eftersom API:et är OpenAI-kompatibelt kan befintliga OpenAI-klientbibliotek och kod vanligtvis riktas mot api14 genom att ändra bas-URL och API-nyckel, utan andra ändringar av förfrågans form. Du kan ställa in temperature och top_p för sampling, max_tokens eller max_completion_tokens för att begränsa svaret, stop-sekvenser för att avsluta genereringen tidigt, och seed när du vill ha mer repeterbara utdata. För verktygsanvändning, ange tools och eventuellt tool_choice; för strukturerade resultat, använd response_format eller structured_outputs.

Några begränsningar är värda att ha i åtanke. Kontextfönstret på 8191 tokens är blygsamt enligt nuvarande standarder, så mycket långa dokument eller långa flerstegskonversationer kan behöva delas upp eller trimmas. Kunskapsgränsen 2021-09-30 innebär att modellen inte har någon kännedom om händelser efter det datumet, så allt tidskänsligt bör tillhandahållas i prompten eller hämtas via verktyg. Indata är endast text, så bilder och ljud ligger utanför ramen här. Om din uppgift är beroende av en mycket större kontext, mer aktuell kunskap eller icke-textindata är en annan modell på api14 sannolikt en bättre matchning.