Inception: Mercury Decide

Inception: Mercury Decide is een gestructureerd beslissingsmodel van Inception. Het is geen algemeen chatmodel, maar gebouwd rond een specifieke taak: een status die je aanlevert samen met getypeerde vragen aannemen en een beslissing teruggeven. Het wordt aangeboden als een System One endpoint, wat de stijl van inferentie beschrijft die Inception voor dit model gebruikt. Als je applicatie een antwoord nodig heeft in de vorm van een keuze, een score of een ja/nee in plaats van een alinea proza, dan behoort dit tot de modelcategorie die daarbij hoort.

Aan de invoerkant accepteert Mercury Decide tekst. De status die je stuurt en de vragen die je eraan koppelt zijn beide tekst, en de vragen zijn getypeerd, wat betekent dat elke vraag een verwachte antwoordvorm draagt. De uitvoer is een beslissing in plaats van vrije tekst, passend bij de getypeerde vragen die je aanlevert. Het contextvenster is 65.536 tokens, en de maximale uitvoer is 58.982 tokens, dus lange statussen en veel vragen passen in een enkele aanvraag.

De praktische toepassingen volgen direct uit die vorm. Overal waar je anders regellogica of een classifier zou schrijven om tussen opties te kiezen, een item te scoren of een ja/nee-vraag over een tekstlichaam te beantwoorden, kan Mercury Decide die beslissing produceren op basis van een status die je in de aanvraag beschrijft. Voorbeelden zijn routerings- of triagebeslissingen, poortstappen in een pijplijn waar een boolean resultaat voldoende is, en het scoren van kandidaten tegen criteria. Omdat de uitvoer al een beslissing is, vermijd je het parsen van vrije tekst en kun je het resultaat direct doorgeven aan de volgende fase van je systeem.

Je roept het aan via de OpenAI-compatibele API van api14 met het model-id "inception/mercury-decide". Omdat de API OpenAI-compatibel is, werken bestaande OpenAI-clientbibliotheken en tooling met een wijziging van de base URL. Let op dat dit model geen ondersteunde parameters vermeldt, dus reken er niet op dat sampling-instellingen zoals temperature of top_p worden geaccepteerd; stuur de status en getypeerde vragen in de aanvraag en lees de beslissing uit het antwoord. Controleer de actuele prijstabel op deze pagina voor de huidige tarieven.

Een ding om af te wegen voordat je het adopteert: het model is tekst in en beslissingen uit. Het is niet de juiste keuze wanneer je gegenereerd proza, samenvattingen, vertalingen of andere vrije tekst nodig hebt, en het is niet multimodaal, dus afbeeldingen, audio en vergelijkbare invoer vallen buiten scope. Als je taak het produceren van geschreven inhoud is in plaats van het beantwoorden van een getypeerde vraag, dan zal een algemeen tekstgeneratiemodel je beter van dienst zijn.