Amazon: Nova Pro 1.0

Amazon Nova Pro 1.0 è un modello di generazione di testo di Amazon, elencato su api14 con l'id modello amazon/nova-pro-v1. Si colloca nella categoria testo ed è descritto da Amazon come un modello multimodale capace, costruito per combinare accuratezza, velocità e costo su un'ampia gamma di attività. È stato rilasciato dal fornitore il 5 dicembre 2024, e il suo knowledge cutoff è il 31 ottobre 2024, quindi tutto ciò che è accaduto dopo quella data è al di fuori di ciò su cui il modello è stato addestrato.

Sul lato input, Nova Pro 1.0 accetta testo e immagini, il che lo rende multimodale anziché solo testo. L'output è testo. La finestra di contesto è di 300.000 token, abbastanza ampia da contenere documenti lunghi, cronologie di conversazione prolungate o una combinazione di testo e immagini in una singola richiesta. L'output massimo è di 5.120 token, quindi le risposte sono limitate ben al di sotto della capacità di input. Se il tuo compito dipende dalla produzione di risposte singole molto lunghe, quel tetto di output è il numero da tenere a mente.

Queste capacità indicano un insieme piuttosto ampio di usi pratici. Poiché legge immagini oltre al testo, si adatta a compiti come descrivere o ragionare su screenshot, diagrammi, foto e pagine scansionate insieme a istruzioni scritte. Il contesto di 300.000 token si adatta all'analisi di documenti lunghi, alla summarizzazione di file di grandi dimensioni e a conversazioni multi turno in cui il contesto precedente deve rimanere visibile. Il supporto agli strumenti significa che può essere utilizzato in flussi di lavoro in cui il modello chiama funzioni o servizi esterni, il che è utile per assistenti e agenti. La generazione generale di testo, l'estrazione e la risposta a domande su input misto di testo e immagini sono tutte applicazioni ragionevoli.

Chiami il modello tramite l'API compatibile con OpenAI di api14 usando l'id modello "amazon/nova-pro-v1". I parametri di richiesta supportati sono max_tokens, stop, temperature, tools, top_k e top_p. Questo copre i consueti controlli di campionamento (temperature, top_p, top_k), la lunghezza dell'output tramite max_tokens, le sequenze di stop e la chiamata a strumenti o funzioni tramite tools. Poiché l'interfaccia è compatibile con OpenAI, i client e gli SDK esistenti che puntano al formato chat di OpenAI generalmente funzionano cambiando solo l'id modello e l'URL di base.

Due limiti meritano una valutazione prima di impegnarti. L'output massimo di 5.120 token è modesto rispetto alla finestra di input di 300.000 token, quindi i carichi di lavoro che richiedono risposte generate molto lunghe possono essere limitati. Il knowledge cutoff del 31 ottobre 2024 significa anche che il modello non ha una consapevolezza integrata di eventi successivi, quindi i compiti che dipendono da informazioni recenti necessitano di retrieval o strumenti anziché della conoscenza propria del modello. Se il tuo lavoro è solo testo e non trae beneficio dall'input di immagini, un modello solo testo può essere una scelta più semplice, ma per compiti misti di testo e immagini con contesto lungo, Nova Pro 1.0 copre il terreno descritto qui.