Amazon: Nova Lite 1.0

Amazon Nova Lite 1.0 è un modello di generazione di testo di Amazon, rilasciato il 5 dicembre 2024. Appartiene alla famiglia di modelli Nova di Amazon ed è posizionato come opzione veloce e a basso costo per il lavoro multimodale. Il modello è identificato su api14 come amazon/nova-lite-v1, e Amazon è sia lo sviluppatore sia il provider dietro di esso.

Il modello accetta input di testo e immagini e produce output di testo. Ha una finestra di contesto di 300.000 token, che consente di gestire documenti molto lunghi, conversazioni lunghe o grandi raccolte di immagini e testo in una singola richiesta. L'output massimo è di 5.120 token, quindi le risposte sono limitate anche quando l'input è grande. Il suo knowledge cutoff è il 31 ottobre 2024, il che significa che non dispone di informazioni su eventi successivi a tale data, a meno che tali informazioni non siano fornite nel prompt. Amazon descrive il modello come focalizzato sull'elaborazione rapida di input di immagini, video e testo per generare output di testo, quindi la velocità sugli input multimodali è una parte centrale del suo design.

Queste capacità indicano alcuni usi pratici. Poiché legge sia immagini sia testo, è adatto a compiti come descrivere o riassumere il contenuto di un'immagine, estrarre informazioni da screenshot o documenti scansionati e rispondere a domande che dipendono da una combinazione di immagini e istruzioni scritte. Il contesto di 300.000 token lo rende utilizzabile per report lunghi, cronologie di chat prolungate o lotti di materiale che non entrerebbero in una finestra più piccola. Il limite di output di 5.120 token significa che è più adatto a riassunti, risposte, classificazioni e brevi passaggi generati che a produrre documenti molto lunghi in una sola chiamata. Gli sviluppatori che costruiscono assistenti che devono guardare un'immagine e rispondere in testo, o pipeline che devono elaborare rapidamente grandi volumi di input misti, sono il pubblico naturale.

Puoi chiamare il modello tramite l'API compatibile con OpenAI di api14 usando l'id del modello amazon/nova-lite-v1. Poiché l'interfaccia segue il formato OpenAI, le librerie client OpenAI esistenti e le strutture delle richieste funzionano generalmente cambiando solo il nome del modello. I parametri di richiesta supportati sono max_tokens, stop, temperature, tools, top_k e top_p. Il parametro tools significa che la chiamata a funzioni o strumenti è disponibile, quindi il modello può essere usato in configurazioni in stile agente in cui decide quando invocare una funzione esterna. temperature, top_k e top_p danno controllo sul campionamento, mentre stop consente di definire sequenze che terminano la generazione e max_tokens limita la lunghezza della risposta.

Vale la pena considerare alcuni limiti prima di impegnarsi. L'output è limitato a 5.120 token, quindi se hai bisogno di risposte singole molto lunghe, un modello con un limite di output più alto potrebbe essere più adatto. Il knowledge cutoff del 31 ottobre 2024 significa che le domande su eventi successivi richiedono che il contesto rilevante sia incluso nel prompt. Il modello produce solo testo, quindi non può generare immagini. Se il tuo compito è puramente testuale e non trae vantaggio dall'input di immagini o da un contesto molto ampio, un modello più semplice solo testo potrebbe essere sufficiente.