OpenAI: GPT-4o (2024-05-13)

GPT-4o (2024-05-13) is een tekstmodel van OpenAI. De "o" staat voor "omni", en deze release is gedateerd op 13 mei 2024. Het is gebouwd om zowel tekst- als afbeeldingsinvoer te accepteren en tekstuitvoer te retourneren, en OpenAI beschrijft het als behoudend van het intelligentieniveau van GPT-4 Turbo terwijl het sneller is. Als je een algemeen OpenAI-model kiest voor een nieuwe integratie, is dit de versie die wordt geïdentificeerd door het model-id openai/gpt-4o-2024-05-13.

Wat invoer betreft, accepteert het model tekst, afbeeldingen en bestanden, en het produceert alleen tekst. Het contextvenster is 128.000 tokens, dus lange documenten, grote codebestanden of uitgebreide gesprekken kunnen in één verzoek worden aangeleverd. De maximale uitvoer is 4.096 tokens, wat van belang is wanneer je lange generaties plant, aangezien het antwoord op dat punt wordt afgekapt ongeacht hoeveel ruimte er nog over is in de context. De kennisafsluitdatum is 31 oktober 2023, dus alles na die datum moet uit de prompt, uit tools of uit een webzoekopdracht komen in plaats van uit de eigen training van het model.

Die mogelijkheden wijzen op een paar praktische toepassingen. Omdat het zowel afbeeldingen als tekst leest, is het geschikt voor taken zoals het extraheren van gestructureerde gegevens uit schermafbeeldingen, gescande pagina's of diagrammen, het beschrijven van visuele inhoud, of het beantwoorden van vragen over een grafiek naast een schriftelijke briefing. Het grote contextvenster maakt het werkbaar voor het beantwoorden van vragen over documenten, het samenvatten van lange rapporten en het in één keer beoordelen van omvangrijke codebases. Ondersteuning voor tools en gestructureerde uitvoer maakt het een redelijke keuze voor agent-achtige workflows en voor pipelines waarin het model JSON moet retourneren die een andere service parseert.

Via api14 roep je het aan met het model-id openai/gpt-4o-2024-05-13 met behulp van de OpenAI-compatibele API, dus bestaande OpenAI SDK's en clients werken met een wijziging van base URL en key. De ondersteunde verzoekparameters zijn frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p en web_search_options. Tools en tool_choice dekken function calling, response_format en structured_outputs dekken beperkte uitvoervormen, en seed ondersteunt meer reproduceerbare sampling.

Twee limieten zijn het overwegen waard bij het plannen. Het uitvoerplafond van 4.096 tokens is bescheiden voor het schrijven van lange teksten, dus taken die zeer lange enkele antwoorden vereisen, passen mogelijk beter bij een ander model, en de kennisafsluitdatum van oktober 2023 betekent dat tijdsgevoelige vragen moeten worden behandeld met tools of webzoekopdrachten in plaats van te vertrouwen op het geheugen van het model.