Writer: Palmyra X5

Skribent: Palmyra X5 är en textmodell från Writer, listad på api14 under modell-id:t writer/palmyra-x5. Writer beskriver den som sin mest avancerade modell, specialbyggd för att bygga och skala AI-agenter i hela verksamheten. Den tillhör kategorin text, så den är inriktad på språkarbete snarare än bild, ljud eller andra modaliteter.

Modellen tar emot text och returnerar text. Dess kontextfönster är 1 040 000 tokens, vilket är drygt en miljon tokens, och maximal utdata är 8 192 tokens. Writers egen beskrivning lyfter fram branschledande hastighet och effektivitet vid kontextfönster på upp till 1 miljon tokens, så det stora fönstret är en avsiktlig del av designen snarare än en tillfällig siffra. Det finns ingen bild- eller ljudinmatning här; allt du skickar måste vara text.

Den kombinationen av ett mycket stort kontextfönster och ett blygsamt utdatatak formar de praktiska användningsfallen. Långa dokument, stora kodbaser, utökade transkript och uppsättningar med flera dokument kan skickas i en enda begäran utan chunkning, vilket passar agentarbetsflöden som är tunga på hämtning, sammanfattning av långa källor, frågebesvarande grundat i stort referensmaterial och extraheringsuppgifter där svaret är kort men bevisen är utspridda över många sidor. Eftersom utdata är begränsad till 8 192 tokens passar den bäst när du behöver ett fokuserat svar snarare än ett långt genererat dokument.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t writer/palmyra-x5, så befintliga OpenAI-klientbibliotek och begäransformat fungerar utan särskild hantering. De begäransparametrar som stöds är max_tokens, stop, temperature, top_k och top_p. Använd max_tokens för att begränsa svaret inom utdatataket på 8 192, stop för att definiera var genereringen ska stanna, och temperature, top_k och top_p för att styra samplingen. Inga andra parametrar listas som stödda, så håll begärandena till denna uppsättning.

Den främsta begränsningen att planera kring är utdatagränsen på 8 192 tokens. Om din uppgift är att producera en lång rapport, en komplett fil eller en utökad textmängd i en enda körning kommer den här modellen att trunkera innan du är klar, och en modell med större utdatautrymme kan passa bättre. Palmyra X5 är starkast när indata är stor och det nödvändiga svaret är jämförelsevis litet.