Amazon: Nova Pro 1.0

Amazon Nova Pro 1.0 est un modèle de génération de texte d'Amazon, répertorié sur api14 sous l'identifiant de modèle amazon/nova-pro-v1. Il appartient à la catégorie texte et est décrit par Amazon comme un modèle multimodal performant, conçu pour allier précision, rapidité et coût sur un large éventail de tâches. Il a été publié par le fournisseur le 5 décembre 2024, et sa date limite de connaissances est le 31 octobre 2024, donc tout ce qui s'est produit après cette date sort du cadre de ce sur quoi le modèle a été entraîné.

Du côté des entrées, Nova Pro 1.0 accepte le texte et les images, ce qui en fait un modèle multimodal et non purement textuel. La sortie est du texte. La fenêtre de contexte est de 300 000 tokens, ce qui est suffisamment grand pour contenir de longs documents, de longs historiques de conversation, ou un mélange de texte et d'images dans une seule requête. La sortie maximale est de 5 120 tokens, donc les réponses sont bien en dessous de la capacité d'entrée. Si votre tâche dépend de la production de réponses uniques très longues, ce plafond de sortie est le chiffre à garder en tête.

Ces capacités indiquent un ensemble assez large d'usages pratiques. Comme il lit les images autant que le texte, il convient à des tâches telles que décrire ou raisonner sur des captures d'écran, des schémas, des photos et des pages numérisées, en parallèle d'instructions écrites. Le contexte de 300 000 tokens convient à l'analyse de longs documents, au résumé de gros fichiers et aux conversations à plusieurs tours où le contexte antérieur doit rester visible. La prise en charge des outils signifie qu'il peut être utilisé dans des flux de travail où le modèle appelle des fonctions ou des services externes, ce qui est utile pour les assistants et les agents. La génération de texte générale, l'extraction et la réponse à des questions sur des entrées mixtes texte et image sont toutes des utilisations raisonnables.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "amazon/nova-pro-v1". Les paramètres de requête pris en charge sont max_tokens, stop, temperature, tools, top_k et top_p. Cela couvre les contrôles d'échantillonnage habituels (temperature, top_p, top_k), la longueur de sortie via max_tokens, les séquences d'arrêt, et l'appel d'outils ou de fonctions via tools. Comme l'interface est compatible OpenAI, les clients et SDK existants qui ciblent le format de chat OpenAI fonctionnent généralement en changeant seulement l'identifiant de modèle et l'URL de base.

Deux limites méritent d'être pesées avant de vous engager. La sortie maximale de 5 120 tokens est modeste par rapport à la fenêtre d'entrée de 300 000 tokens, donc les charges de travail qui nécessitent des réponses générées très longues peuvent être contraintes. La date limite de connaissances du 31 octobre 2024 signifie aussi que le modèle n'a aucune connaissance intégrée des événements postérieurs, donc les tâches qui dépendent d'informations récentes nécessitent une récupération ou des outils plutôt que les connaissances propres du modèle. Si votre travail est purement textuel et ne bénéficie pas des entrées d'images, un modèle purement textuel peut être plus simple, mais pour les tâches mixtes texte et image avec un long contexte, Nova Pro 1.0 couvre le terrain décrit ici.