OpenAI: GPT-3.5 Turbo (batch)

OpenAI: GPT-3.5 Turbo (batch) to model tekstowy od OpenAI, oferowany przez api14 pod identyfikatorem modelu openai/gpt-3.5-turbo:batch. Należy do rodziny GPT-3.5 Turbo, którą OpenAI opisuje jako swój najszybszy model. Data wydania przez dostawcę to 2023-05-28, a dane treningowe obejmują okres do września 2021, więc wbudowana wiedza modelu kończy się w tym punkcie.

Model przyjmuje tekst na wejściu i zwraca tekst na wyjściu. Rozumie i generuje język naturalny lub kod, jest zoptymalizowany pod czat oraz tradycyjne zadania uzupełniania. Okno kontekstu wynosi 16 385 tokenów, a maksymalne wyjście to 4 096 tokenów. Ponieważ obsługuje zarówno prozę, jak i kod, pasuje do zadań łączących tury konwersacyjne ze strukturalnym generowaniem tekstu.

Praktyczne zastosowania wynikają wprost z tych cech. Asystenci czatu, interfejsy konwersacyjne i dialog wielotur są naturalnym zastosowaniem dzięki optymalizacji pod czat. Tradycyjne zadania uzupełniania, takie jak tworzenie szkiców, streszczanie lub przepisywanie tekstu, również działają. Ponieważ model potrafi generować kod, może też pomagać w zadaniach związanych z kodem. Kontekst 16 385 tokenów daje miejsce na dłuższe rozmowy lub większe prompty, a limit wyjścia 4 096 tokenów odpowiada odpowiedziom, które nie muszą być bardzo długie.

Wywołujesz go przez zgodne z OpenAI API api14, używając identyfikatora modelu openai/gpt-3.5-turbo:batch. Obsługiwane parametry żądania to frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs oraz top_p. Ten zestaw obejmuje kontrolę próbkowania, limity tokenów, sekwencje stop, deterministyczne ziarno, wyjście strukturalne oraz wywoływanie narzędzi lub funkcji, więc możesz kształtować zarówno odpowiedzi w postaci zwykłego tekstu, jak i przepływy sterowane narzędziami bez wychodzenia ze standardowego interfejsu.

Pamiętaj o granicy wiedzy: wszystko po wrześniu 2021 znajduje się poza danymi treningowymi modelu, więc pytania wrażliwe na czas mogą wymagać wyszukiwania lub kontekstu dostarczonego w prompcie. Limit wyjścia 4 096 tokenów ma również znaczenie w zadaniach wymagających długich pojedynczych odpowiedzi. W takich sytuacjach, albo gdy zadanie zależy od nowszych informacji, lepiej może pasować inny model.