OpenAI: GPT-4 Turbo (batch)

GPT-4 Turbo (batch) är en textgenereringsmodell från OpenAI, som erbjuds på api14 under modell-id:t openai/gpt-4-turbo:batch. Det är batchvarianten av OpenAIs GPT-4 Turbo-linje, den version som lade till synförmåga. api14 dirigerar förfrågningar till den via samma OpenAI-kompatibla gränssnitt som du använder för andra modeller på plattformen, så ingen separat SDK eller integrationsarbete behövs.

Modellen tar emot text- och bildindata och producerar textutdata, vilket innebär att du kan blanda prompter och bilder i en enda förfrågan där det hjälper. Den stöder ett kontextfönster på 128 000 tokens, och svar kan uppgå till 4 096 tokens. Dess träningsdata sträcker sig till december 2023. Synförfrågningar fungerar tillsammans med JSON-läge och funktionsanrop, så strukturerad utdata och verktygsanvändning är inte begränsade till enbart textanrop.

Dessa funktioner pekar mot några praktiska mönster. Långa dokument, kodbaser eller transkriptioner får plats bekvämt i kontextfönstret på 128 000 tokens, så sammanfattning, extrahering och frågebesvarande över stora indata är genomförbart utan tung chunkning. Eftersom bilder accepteras som indata ingår även skärmbildsanalys, diagramtolkning och dokumenttolkning från skannade sidor. Funktionsanrop och strukturerade utdata gör den till en rimlig passform för agenter, verktygsanvändande arbetsflöden och pipelines som behöver maskinläsbara svar, medan JSON-läge håller nedströms tolkning förutsägbar.

För att anropa den på api14, skicka en förfrågan till chat completions-endpointen med modellfältet satt till openai/gpt-4-turbo:batch, precis som du skulle göra med OpenAIs eget API. Modellen stöder frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs och top_p. Det täcker samplingskontroller, determinism via seed, tokengränser, stoppsekvenser, strukturerade utdataformat och verktygsdefinitioner, så de flesta standardmässiga OpenAI-liknande förfrågningskroppar fungerar utan ändringar.

Två begränsningar är värda att notera innan du bestämmer dig. Utdata är begränsad till 4 096 tokens per svar, så uppgifter som kräver mycket långa enskilda kompletteringar kan behöva delas upp över flera anrop, och kunskapsavbrottet i december 2023 innebär att modellen inte har någon kännedom om något efter det datumet om du inte tillhandahåller det i prompten. Om din arbetsbelastning behöver nyare kunskap, större utdatabudgetar eller en annan kostnadsprofil, kontrollera de andra modellerna som finns tillgängliga på api14 innan du väljer denna.