OpenAI: GPT-4

GPT-4 to model tekstowy od OpenAI, wymieniony na api14 pod identyfikatorem modelu openai/gpt-4. Należy do kategorii tekstowych, a dostawca opisuje go jako flagowy wielkoskalowy model językowy OpenAI, zbudowany do rozwiązywania trudnych problemów z większą dokładnością niż wcześniejsze modele dzięki szerszej wiedzy ogólnej i zaawansowanemu rozumowaniu. Data wydania przez dostawcę to 2023-05-28, a data odcięcia wiedzy modelu to 2021-09-30.

Na api14 model przyjmuje dane wejściowe tekstowe i zwraca dane wyjściowe tekstowe. Ma długość kontekstu 8191 tokenów i maksymalne wyjście 4096 tokenów. Obsługiwane parametry żądania obejmują temperature, top_p, frequency_penalty, presence_penalty, stop, seed, logit_bias, logprobs, top_logprobs, max_tokens, max_completion_tokens, response_format, structured_outputs, tools oraz tool_choice. Ta kombinacja obejmuje kontrolę próbkowania, zachowanie w miarę deterministyczne dzięki seed, inspekcję na poziomie tokenów poprzez logprobs oraz wywoływanie funkcji poprzez parametry tools.

Praktyczne zastosowania wynikają z tych możliwości. Ogólne rozumowanie i odpowiadanie na pytania wymagające dużej wiedzy pasują do deklarowanych mocnych stron modelu. Dłuższe prompty są wykonalne w kontekście 8191 tokenów, więc streszczanie dokumentów, tworzenie wieloakapitowych tekstów, ekstrakcja i przepisywanie są rozsądne, o ile dane wejściowe plus żądane wyjście mieszczą się w oknie. Ponieważ tools i tool_choice są obsługiwane, model może być używany jako krok rozumowania w agencie lub przepływie pracy, który wywołuje funkcje zewnętrzne. Ustrukturyzowane wyjścia i response_format pomagają, gdy potrzebujesz wyników czytelnych maszynowo, a nie swobodnej prozy, a logprobs lub top_logprobs są przydatne, gdy chcesz sprawdzić, jak pewny był model przy każdym tokenie, na przykład w potokach klasyfikacji lub ewaluacji.

Wywoływanie go przez api14 działa tak samo jak w przypadku każdego innego punktu końcowego zgodnego z OpenAI. Wyślij żądanie uzupełnień czatu do bramy z polem model ustawionym na openai/gpt-4 i przekaż wybrane parametry w treści żądania. Ponieważ API jest zgodne z OpenAI, istniejące biblioteki klienckie OpenAI i kod można zwykle skierować na api14, zmieniając bazowy adres URL i klucz API, bez innych zmian w kształcie żądania. Możesz ustawić temperature i top_p dla próbkowania, max_tokens lub max_completion_tokens, aby ograniczyć odpowiedź, sekwencje stop, aby zakończyć generowanie wcześniej, oraz seed, gdy chcesz uzyskać bardziej powtarzalne wyniki. Do użycia narzędzi podaj tools i opcjonalnie tool_choice; do ustrukturyzowanych wyników użyj response_format lub structured_outputs.

Kilka ograniczeń warto mieć na uwadze. Okno kontekstu wynoszące 8191 tokenów jest skromne według obecnych standardów, więc bardzo długie dokumenty lub długie rozmowy wieloetapowe mogą wymagać dzielenia na fragmenty lub przycinania. Data odcięcia wiedzy 2021-09-30 oznacza, że model nie ma świadomości zdarzeń po tej dacie, więc wszystko, co zależne od czasu, powinno być dostarczone w prompcie lub pobrane przez narzędzia. Dane wejściowe są wyłącznie tekstowe, więc obrazy i dźwięk są tutaj poza zakresem. Jeśli Twoje zadanie zależy od znacznie większego kontekstu, nowszej wiedzy lub danych wejściowych innych niż tekst, inny model na api14 będzie prawdopodobnie lepszym wyborem.