Amazon: Nova Pro 1.0

Amazon Nova Pro 1.0 is een tekstgeneratiemodel van Amazon, vermeld op api14 onder het model-id amazon/nova-pro-v1. Het valt in de categorie tekst en wordt door Amazon beschreven als een capabel multimodaal model dat is gebouwd om nauwkeurigheid, snelheid en kosten te combineren across een breed scala aan taken. Het werd door de provider uitgebracht op 5 december 2024, en de knowledge cutoff is 31 oktober 2024, dus alles wat na die datum is gebeurd valt buiten waarop het model is getraind.

Aan de invoerkant accepteert Nova Pro 1.0 tekst en afbeeldingen, wat het multimodaal maakt in plaats van alleen tekst. Uitvoer is tekst. Het contextvenster is 300.000 tokens, wat groot genoeg is om lange documenten, lange gespreksgeschiedenissen of een mix van tekst en afbeeldingen in één verzoek te bevatten. De maximale uitvoer is 5.120 tokens, dus antwoorden zijn ruim onder de invoercapaciteit begrensd. Als je taak afhangt van het produceren van zeer lange enkele antwoorden, is dat uitvoerplafond het getal om in gedachten te houden.

Die mogelijkheden wijzen op een redelijk brede set praktische toepassingen. Omdat het zowel afbeeldingen als tekst leest, past het bij taken zoals het beschrijven van of redeneren over screenshots, diagrammen, foto's en gescande pagina's naast geschreven instructies. De context van 300.000 tokens is geschikt voor lange documentanalyse, samenvatting van grote bestanden en gesprekken met meerdere beurten waarin eerdere context in beeld moet blijven. Tool-ondersteuning betekent dat het kan worden gebruikt in workflows waarin het model functies of externe services aanroept, wat nuttig is voor assistenten en agents. Algemene tekstgeneratie, extractie en vraagbeantwoording over gemengde tekst- en afbeeldingsinvoer passen allemaal redelijk.

Je roept het model aan via de OpenAI-compatibele API van api14 met het model-id "amazon/nova-pro-v1". De ondersteunde verzoekparameters zijn max_tokens, stop, temperature, tools, top_k en top_p. Dat dekt de gebruikelijke sampling-besturingen (temperature, top_p, top_k), uitvoerlengte via max_tokens, stopsequenties en tool- of functieaanroepen via tools. Omdat de interface OpenAI-compatibel is, werken bestaande clients en SDK's die op het OpenAI-chatformaat zijn gericht over het algemeen met alleen een gewijzigd model-id en base-URL.

Twee limieten zijn het wegen waard voordat je je vastlegt. De maximale uitvoer van 5.120 tokens is bescheiden ten opzichte van het invoervenster van 300.000 tokens, dus workloads die zeer lange gegenereerde antwoorden nodig hebben kunnen beperkt worden. De knowledge cutoff van 31 oktober 2024 betekent ook dat het model geen ingebouwd bewustzijn heeft van latere gebeurtenissen, dus taken die afhankelijk zijn van recente informatie hebben retrieval of tools nodig in plaats van de eigen kennis van het model. Als je werk alleen tekst is en geen voordeel haalt uit afbeeldingsinvoer, kan een tekst-only model een eenvoudigere keuze zijn, maar voor gemengde tekst- en afbeeldingstaken met lange context dekt Nova Pro 1.0 het terrein dat hier is beschreven.