Amazon: Nova Lite 1.0

Amazon Nova Lite 1.0 est un modèle de génération de texte d'Amazon, publié le 5 décembre 2024. Il fait partie de la famille de modèles Nova d'Amazon et se positionne comme une option rapide et économique pour le travail multimodal. Le modèle est identifié sur api14 comme amazon/nova-lite-v1, et Amazon est à la fois le développeur et le fournisseur derrière celui-ci.

Le modèle accepte des entrées de texte et d'images et produit une sortie texte. Il dispose d'une fenêtre de contexte de 300 000 tokens, ce qui permet de traiter de très longs documents, de longues conversations ou de grandes collections d'images et de textes en une seule requête. La sortie maximale est de 5 120 tokens, les réponses sont donc bornées même lorsque l'entrée est volumineuse. Sa date limite de connaissances est le 31 octobre 2024, ce qui signifie qu'il ne dispose pas d'informations sur les événements postérieurs à cette date, sauf si ces informations sont fournies dans le prompt. Amazon décrit le modèle comme étant axé sur le traitement rapide d'entrées d'images, de vidéos et de texte pour générer une sortie texte, la rapidité sur les entrées multimodales est donc un élément central de sa conception.

Ces capacités ouvrent la voie à quelques usages pratiques. Comme il lit les images aussi bien que le texte, il convient à des tâches telles que la description ou le résumé du contenu d'une image, l'extraction d'informations à partir de captures d'écran ou de documents scannés, et la réponse à des questions qui dépendent d'un mélange d'images et d'instructions écrites. Le contexte de 300 000 tokens le rend exploitable pour de longs rapports, de longs historiques de conversation ou des lots de documents qui ne tiendraient pas dans une fenêtre plus petite. Le plafond de sortie de 5 120 tokens signifie qu'il est mieux adapté aux résumés, aux réponses, aux classifications et aux courts passages générés qu'à la production de très longs documents en un seul appel. Les développeurs qui créent des assistants devant examiner une image et répondre en texte, ou des pipelines devant traiter rapidement de grands volumes d'entrées mixtes, constituent le public naturel.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle amazon/nova-lite-v1. Comme l'interface suit le format OpenAI, les bibliothèques clientes OpenAI existantes et les structures de requête fonctionnent généralement avec seulement le nom du modèle modifié. Les paramètres de requête pris en charge sont max_tokens, stop, temperature, tools, top_k et top_p. Le paramètre tools signifie que l'appel de fonctions ou d'outils est disponible, le modèle peut donc être utilisé dans des configurations de type agent où il décide quand invoquer une fonction externe. temperature, top_k et top_p permettent de contrôler l'échantillonnage, tandis que stop vous permet de définir des séquences qui mettent fin à la génération et max_tokens plafonne la longueur de la réponse.

Quelques limites méritent d'être pesées avant de vous engager. La sortie est plafonnée à 5 120 tokens, donc si vous avez besoin de réponses uniques très longues, un modèle avec une limite de sortie plus élevée pourrait mieux convenir. La date limite de connaissances du 31 octobre 2024 signifie que les questions sur des événements ultérieurs nécessitent que le contexte pertinent soit inclus dans le prompt. Le modèle produit uniquement du texte, il ne peut donc pas générer d'images. Si votre tâche est purement textuelle et ne bénéficie pas d'une entrée d'image ou d'un très grand contexte, un modèle plus simple, uniquement textuel, peut suffire.