Anthropic: Claude Sonnet 5 (batch)

Claude Sonnet 5 (batch) är en textmodell från Anthropic, som erbjuds på api14 under modell-id anthropic/claude-sonnet-5:batch. Anthropic beskriver Sonnet 5 som sin mest kapabla modell i Sonnet-klassen, med frontier-prestanda inom kodning, agenter och professionellt arbete. Batch-varianten är samma modell som serveras via ett batchbearbetningsläge i stället för ett interaktivt sådant, vilket gör den lämplig för arbetsbelastningar där du skickar in många förfrågningar och samlar in resultaten i stället för att vänta på varje anrop i en live-session.

Modellen tar emot text, bilder och filer som indata, och producerar text som utdata. Dess kontextfönster är 1 000 000 token, och maximal utdata är 128 000 token. Sonnet 5 stöder adaptivt tänkande med valbara nivåer för resonemangsansträngning, inklusive low, medium, high och max. Den kombinationen av en mycket stor kontext och en stor utdatabudget innebär att du kan ge den långa dokument, blandade text- och bildindata, eller hela filsammlingar i en enda förfrågan och fortfarande få ett omfattande svar tillbaka.

Dessa förmågor pekar mot några praktiska mönster. Arbete med stor kontext, som att granska stora kodbaser, sammanfatta eller extrahera från långa rapporter, och svara på frågor över många dokument passar naturligt, särskilt när dokumenten kommer som filer eller skannade bilder. Kodnings- och agentliknande uppgifter följer av modellens angivna styrkor, och stödet för verktyg och strukturerad utdata gör den användbar som resonemangssteget i en pipeline som anropar andra system. Eftersom resonemangsansträngningen är valbar kan du skruva ned den för enkel extrahering och upp för problem som kräver mer övervägande, och batchläget passar jobb som körs enligt ett schema eller över en kö i stället för i ett chattfönster.

För att anropa den via api14, använd det OpenAI-kompatibla gränssnittet för chattkompletteringar med modell-id anthropic/claude-sonnet-5:batch. Förfrågan stöder include_reasoning, max_tokens, reasoning, reasoning_effort, response_format, stop, structured_outputs, tool_choice, tools och verbosity. I praktiken innebär det att du kan begränsa utdatalängden med max_tokens, styra hur mycket modellen tänker med reasoning_effort, begära maskinläsbar utdata via response_format eller structured_outputs, och definiera anropbara funktioner med tools och tool_choice. Parametrarna include_reasoning och verbosity låter dig avgöra hur mycket av modellens interna resonemang och hur mycket detaljer du vill få synligt i svaret.

En sak att väga in är själva batchläget. Det är utformat för asynkron inlämning i hög volym, så om du behöver ett synkront svar i en interaktiv applikation skulle en icke-batch-distribution av samma modell vara det mer naturliga valet. Modellen producerar endast text, så uppgifter som kräver generering av bilder eller ljud faller utanför dess räckvidd. Inom textarbete täcker dock kontexten på 1 000 000 token och utdatataket på 128 000 token de flesta fall med långa dokument och lång generering utan att indata behöver delas upp i bitar.