OpenAI: GPT-4o

GPT-4o is een tekstgeneratiemodel van OpenAI, geïdentificeerd op api14 als openai/gpt-4o. De naam staat voor "omni", wat weerspiegelt dat het meer dan één soort invoer accepteert. Het werd door de provider uitgebracht op 13 mei 2024 en valt in de categorie tekst, met een kennisafsluitdatum van 31 oktober 2023. Als je GPT-4 Turbo hebt gebruikt, wordt GPT-4o gepositioneerd als het behouden van dat intelligentieniveau, dus het is een redelijke standaardkeuze wanneer je een algemeen OpenAI-model wilt in plaats van een gespecialiseerd model.

Bij invoer accepteert het model tekst, afbeeldingen en bestanden, en het produceert alleen tekst. Die combinatie is belangrijk voor taken waarbij de prompt niet alleen proza is: een schermafbeelding, een gescande pagina of een bijgevoegd document kan samen met je instructies worden verzonden, en het model antwoordt in tekst. Het contextvenster is 128.000 tokens, wat genoeg is voor lange documenten, gesprekken met meerdere beurten of grote codebestanden in één verzoek. De uitvoer is beperkt tot 16.384 tokens per antwoord, dus zeer lange generaties moeten rond dat plafond worden gepland, bijvoorbeeld door secties achtereenvolgens op te vragen.

De praktische toepassingen volgen uit die mogelijkheden. Documentvraagbeantwoording en samenvatting werken goed wanneer je een bestand bijvoegt of een lang transcript plakt en om specifieke antwoorden vraagt. Beeldbegrip ondersteunt taken zoals het lezen van grafieken, het beschrijven van schermafbeeldingen, het extraheren van tekst uit foto's of het controleren van een UI-mock tegen een specificatie. Omdat het model tools en gestructureerde uitvoer ondersteunt, past het ook bij agent-achtige workflows en pijplijnen voor gegevensextractie waarbij het antwoord aan een schema moet voldoen. Algemene chat, opstellen, herschrijven en codehulp vallen allemaal binnen het bereik, en de lange context maakt het bruikbaar voor vragen op repositoryniveau in plaats van losse fragmenten.

Je roept het aan via de OpenAI-compatibele API van api14 met het model-id openai/gpt-4o, dus bestaande OpenAI SDK's en clients werken met alleen een gewijzigde base URL en sleutel. De ondersteunde verzoekparameters zijn frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p en web_search_options. In de praktijk dekt dat sampling-besturing, min of meer deterministisch gedrag via seed, JSON- en schemabeperkte uitvoer via response_format en structured_outputs, functieaanroepen via tools en tool_choice, tokenlimieten en optioneel webzoeken.

Twee beperkingen zijn het onthouden waard wanneer je kiest. De uitvoer stopt bij 16.384 tokens, dus als je één zeer lange generatie nodig hebt, moet je het werk mogelijk opsplitsen of een model kiezen met een grotere uitvoertoestemming. De kennisafsluitdatum van 31 oktober 2023 betekent dat het model latere gebeurtenissen niet uit zichzelf kent, en daar komen de parameter web_search_options of je eigen opgehaalde context van pas. Als je taak puur tekstueel is en geen baat heeft bij beeld- of bestandsinvoer, kan een kleiner tekstonly-model goedkoper en sneller zijn voor dezelfde taak.