Writer: Palmyra X5

Auteur: Palmyra X5 is een tekstmodel van Writer, vermeld op api14 onder de model-id writer/palmyra-x5. Writer beschrijft het als zijn meest geavanceerde model, speciaal gebouwd voor het bouwen en opschalen van AI-agenten binnen de onderneming. Het valt in de categorie tekst, dus het is gericht op taalwerk en niet op beeld, audio of andere modaliteiten.

Het model neemt tekst in en geeft tekst terug. Het contextvenster is 1.040.000 tokens, net iets meer dan een miljoen tokens, en de maximale uitvoer is 8.192 tokens. Writers eigen beschrijving benadrukt toonaangevende snelheid en efficiëntie bij contextvensters tot 1 miljoen tokens, dus het grote venster is een bewust onderdeel van het ontwerp en niet een toevallig cijfer. Er is hier geen beeld- of audio-invoer; alles wat u verstuurt moet tekst zijn.

Die combinatie van een zeer groot contextvenster en een bescheiden uitvoerplafond bepaalt de praktische use cases. Lange documenten, grote codebases, uitgebreide transcripties en sets van meerdere documenten kunnen in één verzoek worden aangeleverd zonder opdelen in stukken, wat past bij retrieval-zware agent-workflows, samenvatten van lange bronnen, vraagbeantwoording op basis van groot referentiemateriaal, en extractietaken waarbij het antwoord kort is maar het bewijs over vele pagina's is verspreid. Omdat de uitvoer is beperkt tot 8.192 tokens, past het het beste wanneer u een gericht antwoord nodig hebt in plaats van een lang gegenereerd document.

U roept het aan via de OpenAI-compatibele API van api14 met de model-id writer/palmyra-x5, dus bestaande OpenAI-clientbibliotheken en request-vormen werken zonder speciale behandeling. De ondersteunde request-parameters zijn max_tokens, stop, temperature, top_k en top_p. Gebruik max_tokens om het antwoord binnen het uitvoerplafond van 8.192 te houden, stop om te bepalen waar de generatie moet stoppen, en temperature, top_k en top_p om de sampling te sturen. Er zijn geen andere parameters als ondersteund vermeld, dus houd verzoeken binnen deze set.

De belangrijkste beperking om rekening mee te houden is de uitvoerlimiet van 8.192 tokens. Als uw taak is om in één keer een lang rapport, een volledig bestand of een uitgebreid stuk proza te produceren, dan zal dit model afbreken voordat u klaar bent, en een model met een grotere uitvoerruimte past mogelijk beter. Palmyra X5 is het sterkst wanneer de invoer groot is en het vereiste antwoord relatief klein.