OpenAI: GPT-4o (2024-05-13)

GPT-4o (2024-05-13) to model tekstowy od OpenAI. Litera "o" oznacza "omni", a ta wersja została wydana 13 maja 2024. Został zbudowany tak, aby przyjmować zarówno dane wejściowe tekstowe, jak i obrazowe, zwracając dane wyjściowe tekstowe, a OpenAI opisuje go jako utrzymującego poziom inteligencji GPT-4 Turbo przy jednoczesnym byciu szybszym. Jeśli wybierasz ogólnego przeznaczenia model OpenAI do nowej integracji, jest to wersja identyfikowana przez model id openai/gpt-4o-2024-05-13.

Na wejściu model przyjmuje tekst, obrazy i pliki, a generuje wyłącznie tekst. Okno kontekstu wynosi 128 000 tokenów, więc długie dokumenty, duże pliki kodu lub rozbudowane rozmowy można dostarczyć w jednym żądaniu. Maksymalne wyjście to 4096 tokenów, co ma znaczenie, gdy planujesz długie generacje, ponieważ odpowiedź zostanie obcięta w tym punkcie niezależnie od tego, ile miejsca pozostaje w kontekście. Jego data odcięcia wiedzy to 31 października 2023, więc wszystko po tej dacie musi pochodzić z promptu, z narzędzi lub z wyszukiwania w sieci, a nie z własnego treningu modelu.

Te możliwości wskazują na kilka praktycznych zastosowań. Ponieważ czyta obrazy równie dobrze jak tekst, nadaje się do zadań takich jak wyodrębnianie ustrukturyzowanych danych ze zrzutów ekranu, zeskanowanych stron lub diagramów, opisywanie treści wizualnych czy odpowiadanie na pytania o wykres wraz z pisemnym briefem. Duże okno kontekstu czyni go użytecznym do odpowiadania na pytania dotyczące dokumentów, streszczania długich raportów i przeglądania sporych baz kodu w jednym przebiegu. Wsparcie dla narzędzi i ustrukturyzowanych danych wyjściowych czyni go rozsądnym wyborem do przepływów pracy w stylu agentowym oraz do potoków, w których model musi zwracać JSON parsowany przez inną usługę.

Przez api14 wywołujesz go z model id openai/gpt-4o-2024-05-13 przy użyciu API zgodnego z OpenAI, więc istniejące SDK i klienty OpenAI działają po zmianie bazowego adresu URL i klucza. Obsługiwane parametry żądania to frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p i web_search_options. Tools i tool_choice obejmują wywoływanie funkcji, response_format i structured_outputs obejmują ograniczone kształty wyjścia, a seed wspiera bardziej powtarzalne próbkowanie.

Dwa ograniczenia warto uwzględnić w planowaniu. Pułap 4096 tokenów wyjścia jest skromny dla długich form pisemnych, więc zadania wymagające bardzo długich pojedynczych odpowiedzi mogą lepiej pasować do innego modelu, a data odcięcia wiedzy z października 2023 oznacza, że pytania wrażliwe na czas powinny być obsługiwane za pomocą narzędzi lub wyszukiwania w sieci, a nie przez poleganie na pamięci modelu.