OpenAI: GPT-3.5 Turbo

GPT-3.5 Turbo är en textmodell från OpenAI, identifierad på api14 som openai/gpt-3.5-turbo. OpenAI beskriver den som sin snabbaste modell, och den släpptes av leverantören 2023-05-28. Den tillhör textkategorin och är byggd för att förstå och generera naturligt språk eller kod, med optimering för chatt och traditionella completion-uppgifter. Om du väljer en allmänt användbar OpenAI-modell för vardagligt textarbete är detta den långvariga standard som en stor del av ekosystemet byggdes kring.

Modellen tar text som indata och returnerar text som utdata, så det finns ingen bild-, ljud- eller filhantering att planera för. Dess kontextfönster är 16 385 tokens, och maximal utdata är 4 096 tokens, vilket innebär att långa indata är möjliga men själva svaret är begränsat långt under kontextstorleken. Kunskapsgränsen är 2021-09-30, så allt efter det datumet måste komma från prompten snarare än från modellens träningsdata. Parametrar som stöds i förfrågningar inkluderar temperature, top_p, max_tokens, stop, frequency_penalty, presence_penalty, logit_bias, logprobs, top_logprobs, seed, response_format, structured_outputs, tools och tool_choice.

Dessa funktioner motsvarar en ganska bred uppsättning praktiska arbetsuppgifter. Chattachat, utkast och omskrivning, sammanfattning av dokument som ryms inom kontextfönstret, klassificering och extrahering till en fast form, samt kodgenerering eller kodförklaring passar alla rimligen, eftersom modellen hanterar både naturligt språk och kod. Eftersom tools och tool_choice stöds kan du definiera funktionsscheman och låta modellen avgöra när de ska anropas, vilket passar agentliknande arbetsflöden och hämtningspipelines där modellen behöver begära data. Parametern seed är användbar när du vill ha repeterbar sampling, och response_format plus structured_outputs är användbara när en efterföljande parser förväntar sig en förutsägbar struktur snarare än fri prosa.

Att anropa den via api14 fungerar på samma sätt som med vilken annan OpenAI-kompatibel endpoint som helst. Skicka din förfrågan till chat completions-rutten med modell-id:t openai/gpt-3.5-turbo, och använd parametrarna ovan i förfrågningskroppen efter behov. Om du redan har kod skriven mot OpenAI SDK eller en kompatibel klient är det normalt den enda ändringen som krävs att peka bas-URL:en mot api14 och byta ut modell-id:t.

Två begränsningar är värda att ha i åtanke innan du bestämmer dig. Kunskapsgränsen 2021-09-30 innebär att modellen inte känner till aktuella händelser, bibliotek eller API:er om du inte tillhandahåller den kontexten, och taket på 4 096 tokens för utdata begränsar hur mycket den kan producera i ett enda svar. För mycket stora indata, mycket långa genereringar eller uppgifter som är beroende av aktuell kunskap kan en annan modell på api14 passa dig bättre.