OpenAI: GPT-4o (2024-05-13)

GPT-4o (2024-05-13) är en textmodell från OpenAI. "o" står för "omni", och denna utgåva är daterad 13 maj 2024. Den är byggd för att ta emot både text- och bildindata samtidigt som den returnerar textutdata, och OpenAI beskriver den som att den bibehåller intelligensnivån hos GPT-4 Turbo samtidigt som den är snabbare. Om du väljer en allmän OpenAI-modell för en ny integration är detta den version som identifieras av modell-id:t openai/gpt-4o-2024-05-13.

När det gäller indata accepterar modellen text, bilder och filer, och den producerar endast text. Kontextfönstret är 128 000 tokens, så långa dokument, stora kodfiler eller utökade konversationer kan skickas in i en enda begäran. Den maximala utdatan är 4 096 tokens, vilket spelar roll när du planerar långa genereringar, eftersom svaret kommer att trunkeras vid den punkten oavsett hur mycket utrymme som återstår i kontexten. Dess kunskapsgräns är 31 oktober 2023, så allt efter det datumet måste komma från prompten, från verktyg eller från en webbsökning snarare än från modellens egen träning.

Dessa funktioner pekar mot några praktiska användningsområden. Eftersom den läser bilder likväl som text passar den för uppgifter som att extrahera strukturerad data från skärmbilder, skannade sidor eller diagram, beskriva visuellt innehåll, eller svara på frågor om ett diagram tillsammans med en skriftlig brief. Det stora kontextfönstret gör den användbar för dokumentfrågor och svar, sammanfattning av långa rapporter och granskning av stora kodbaser i en enda körning. Stöd för verktyg och strukturerade utdata gör den till ett rimligt val för agentliknande arbetsflöden och för pipelines där modellen måste returnera JSON som en annan tjänst tolkar.

Via api14 anropar du den med modell-id:t openai/gpt-4o-2024-05-13 med hjälp av det OpenAI-kompatibla API:et, så befintliga OpenAI-SDK:er och klienter fungerar med en ändring av bas-URL och nyckel. De begärandeparametrar som stöds är frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p och web_search_options. Tools och tool_choice täcker funktionsanrop, response_format och structured_outputs täcker begränsade utdataformer, och seed stöder mer reproducerbar sampling.

Två gränser är värda att planera kring. Taket på 4 096 tokens för utdata är blygsamt för långformsskrivande, så uppgifter som behöver mycket långa enskilda svar kan passa en annan modell bättre, och kunskapsgränsen i oktober 2023 innebär att tidskänsliga frågor bör hanteras med verktyg eller webbsökning snarare än att förlita sig på modellens minne.