Nace.AI: Drex v2.0

Nace.AI: Drex v2.0 is een beslissingsmodel van Nace.AI, en de grotere opvolger van Drex v1.5. Het is gebouwd als een 35B mixture-of-experts model met 3B actieve parameters, en het valt in de categorie beslissingen in plaats van de categorie algemene chat. Als je het evalueert, is de belangrijke framing dat het geen tekstgenerator is in de gebruikelijke zin: het is ontworpen om een beschreven situatie te nemen en antwoorden te retourneren op specifieke vragen daarover.

Het model accepteert tekstinvoer, inclusief JSON, en produceert beslissingen als uitvoer. De provider beschrijft het beoogde patroon als het geven van een state (tekst of JSON) plus getypte vragen zoals ja/nee of multiple choice aan het model, en het ontvangen van de bijbehorende antwoorden. Het contextvenster is 131072 tokens, en de maximale uitvoer is 117964 tokens. Omdat de uitvoermodaliteit beslissingen is in plaats van vrije tekst, moet je gestructureerde antwoorden verwachten op de vragen die je stelt, niet een essay of een chatantwoord.

Die vorm wijst op een vrij specifieke set toepassingen. Overal waar je een state hebt die je als tekst of JSON kunt serialiseren en een set discrete vragen daarover, is Drex v2.0 een kandidaat: triage- en routeringsbeslissingen, classificatie in een vaste set opties, ja/nee-poortcontroles, of multiple choice-selectie over een gedefinieerde antwoordruimte. Het grote contextvenster betekent dat de state die je doorgeeft lang kan zijn, dus de vragen kunnen worden gebaseerd op een substantieel corpus aan invoer in plaats van een kort fragment. Het is minder duidelijk geschikt voor taken waarbij je gegenereerde tekst, samenvatting of open-ended gesprek wilt, aangezien dat niet is wat de uitvoermodaliteit dekt.

Je roept het aan via de OpenAI-compatibele API van api14 met het model-id "nace-ai/drex-v2.0". Omdat de API OpenAI-compatibel is, kun je een bestaande OpenAI-client op api14 richten en verzoeken sturen in de gebruikelijke chat completions-vorm, met het modelveld ingesteld op dat id. Merk op dat het model geen ondersteunde parameters vermeldt, dus je moet niet aannemen dat afstemmingsknoppen zoals temperature of top_p worden geaccepteerd; stuur de invoer-state en je getypte vragen en vertrouw op de standaardwaarden. De live prijstabel op deze pagina dekt wat een verzoek kost.

Wat limieten betreft, zijn de feiten hier beperkt. Het model is tekst in en beslissingen uit, dus als je taak beeld- of audio-invoer nodig heeft, of gegenereerde tekst als uitvoer nodig heeft, past een ander model beter. Evenzo, aangezien er geen ondersteunde parameters worden vermeld, moet je, als je pipeline afhankelijk is van het aanpassen van samplinggedrag, dat controleren voordat je je vastlegt. Binnen die grenzen is Drex v2.0 gericht op gestructureerde beslissingstaken over lange tekst- of JSON-states.