OpenAI: GPT-3.5 Turbo (older v0613)

GPT-3.5 Turbo (äldre v0613) är en textmodell från OpenAI, distribuerad under modell-id:t openai/gpt-3.5-turbo-0613. Den tillhör familjen GPT-3.5 Turbo, som OpenAI beskriver som sin snabbaste modelllinje, och just den här versionen är en äldre ögonblicksbild som fortfarande är tillgänglig för arbetsbelastningar som är beroende av dess specifika beteende. Träningsdata sträcker sig fram till september 2021, så den har ingen kunskap om händelser efter den tidpunkten om du inte själv tillhandahåller informationen i prompten.

Modellen tar text som indata och returnerar text som utdata, vilket gör den till en allmän språkmodell för chatt och traditionella kompletteringsuppgifter. Den kan förstå och generera naturligt språk såväl som kod. Kontextfönstret är 4 095 tokens, och maximal utdata är 3 685 tokens, så både prompten och svaret delar en ganska snäv budget jämfört med större moderna modeller. Det finns ingen bild-, ljud- eller filinmatning här; allt du skickar måste vara text.

Eftersom den hanterar både prosa och kod passar modellen för en rad vardagliga uppgifter: chattassistenter och konversationsgränssnitt, utformning och omskrivning av text, sammanfattning av korta dokument, klassificering och extrahering över små indata, samt lättviktsgenerering eller förklaring av kod. Dess stöd för verktyg och strukturerade utdata gör den också användbar för enkla funktionsanrop och för att producera svar i ett definierat format, vilket hjälper när du behöver maskinläsbara utdata snarare än fritext. Fönstret på 4 095 tokens innebär att den passar prompter och svar som ryms bekvämt inom några sidor text, inte analys av långa dokument.

Du anropar den via api14:s OpenAI-kompatibla API genom att skicka modell-id:t openai/gpt-3.5-turbo-0613 i din begäran, så befintliga OpenAI-SDK:er och klientbibliotek fungerar med bara en ändring av bas-URL och nyckel. De begärda parametrar som stöds är frequency_penalty, logit_bias, logprobs, max_completion_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs och top_p. Det täcker samplingskontroller, determinism via seed, inspektion på tokennivå genom logprobs och top_logprobs, samt verktygs- eller schemastyrd utdata genom tools, tool_choice, response_format och structured_outputs.

Den främsta begränsningen att planera kring är kontextlängden. Vid 4 095 tokens med ett utdatatak på 3 685 tokens kommer långa konversationer, stora kodbaser eller prompter med flera dokument att behöva delas upp, hämtas eller trimmas, och kunskapsgränsen i september 2021 innebär att aktuell information måste komma från din egen kontext. Om din uppgift behöver ett mycket större fönster, nyare kunskap eller multimodala indata passar en annan modell på api14 troligen bättre. För korta, högvolymsuppgifter med text och kod där hastighet är viktigt förblir den här modellen ett rimligt val.