OpenAI: GPT-4o (2024-08-06)

GPT-4o (2024-08-06) is een tekstgeneratiemodel van OpenAI, geïdentificeerd op api14 als openai/gpt-4o-2024-08-06. Het is de versie van GPT-4o die op 2024-08-06 is uitgebracht, en OpenAI positioneert het als een update die gestructureerde outputs verbetert, waaronder de mogelijkheid om een JSON-schema op te geven in het veld response_format. De "o" in de naam staat voor "omni", wat verwijst naar een model dat is ontworpen om meer dan alleen platte tekst te verwerken.

Het model accepteert tekst, afbeeldingen en bestanden als invoer, en produceert tekst als uitvoer. Het heeft een contextvenster van 128.000 tokens en kan tot 16.384 uitvoertokens per verzoek genereren. De kennisafsluitdatum is 2023-10-31, dus alles na die datum valt buiten wat het tijdens training heeft geleerd. Omdat invoer afbeeldingen en bestanden naast tekst kan bevatten, kan het werken met gemengde prompts in plaats van alleen tekst.

Die mogelijkheden wijzen op een paar praktische toepassingen. Gestructureerde outputs met een meegeleverd JSON-schema passen bij extractie- en gegevensvormingstaken, waarbij je wilt dat het model velden retourneert die je direct kunt parsen. Tool calling past bij agent-achtige workflows die functies of externe services moeten aanroepen. Invoer van afbeeldingen en bestanden ondersteunt taken zoals het lezen van een screenshot, een diagram of een document en het beantwoorden van vragen daarover. Het contextvenster van 128.000 tokens maakt lange invoer mogelijk, zoals lange documenten of uitgebreide gesprekken, die in één verzoek kunnen worden verwerkt.

Je roept het model aan via de OpenAI-compatibele API van api14 met het model-id openai/gpt-4o-2024-08-06. De ondersteunde verzoekparameters zijn frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p en web_search_options. Omdat de interface OpenAI-compatibel is, werkt bestaande OpenAI SDK-code over het algemeen met een wijziging van de base URL en het model-id.

Een paar beperkingen zijn het vermelden waard bij het kiezen. Uitvoer is alleen tekst, dus als je gegenereerde afbeeldingen of audio nodig hebt, is dit model niet geschikt. De kennisafsluitdatum van 2023-10-31 betekent dat recente gebeurtenissen niet worden gedekt, tenzij je de informatie in de prompt opneemt of web_search_options gebruikt. Als je workload klein en eenvoudig is, kan een lichter model voldoende zijn, terwijl dit model is gericht op taken die profiteren van het contextvenster, multimodale invoer en ondersteuning voor gestructureerde output.