Amazon: Nova Lite 1.0

Amazon Nova Lite 1.0 ist ein Textgenerierungsmodell von Amazon, veröffentlicht am 5. Dezember 2024. Es gehört zur Nova-Modellfamilie von Amazon und ist als schnelle, kostengünstige Option für multimodale Aufgaben positioniert. Das Modell wird auf api14 als amazon/nova-lite-v1 identifiziert, und Amazon ist sowohl der Entwickler als auch der Anbieter dahinter.

Das Modell akzeptiert Text- und Bildeingaben und erzeugt Textausgaben. Es hat ein Kontextfenster von 300.000 Tokens, was sehr lange Dokumente, lange Gespräche oder große Sammlungen von Bildern und Text in einer einzigen Anfrage ermöglicht. Die maximale Ausgabe beträgt 5.120 Tokens, sodass Antworten auch bei großer Eingabe begrenzt bleiben. Der Wissensstand endet am 31. Oktober 2024, das heißt, es hat keine Informationen über Ereignisse nach diesem Datum, es sei denn, diese Informationen werden im Prompt mitgeliefert. Amazon beschreibt das Modell als auf die schnelle Verarbeitung von Bild-, Video- und Texteingaben zur Erzeugung von Textausgaben ausgerichtet, sodass Geschwindigkeit bei multimodalen Eingaben ein zentraler Teil des Designs ist.

Diese Fähigkeiten deuten auf einige praktische Einsatzmöglichkeiten hin. Da es sowohl Bilder als auch Text liest, eignet es sich für Aufgaben wie das Beschreiben oder Zusammenfassen von Bildinhalten, das Extrahieren von Informationen aus Screenshots oder gescannten Dokumenten und das Beantworten von Fragen, die auf einer Mischung aus Bildern und schriftlichen Anweisungen beruhen. Der Kontext von 300.000 Tokens macht es brauchbar für lange Berichte, umfangreiche Chatverläufe oder Stapel von Material, die nicht in ein kleineres Fenster passen würden. Die Ausgabegrenze von 5.120 Tokens bedeutet, dass es besser für Zusammenfassungen, Antworten, Klassifizierungen und kurze generierte Passagen geeignet ist als für die Erzeugung sehr langer Dokumente in einem einzigen Aufruf. Entwickler, die Assistenten bauen, die ein Bild betrachten und in Text antworten müssen, oder Pipelines, die große Mengen gemischter Eingaben schnell verarbeiten müssen, sind die natürliche Zielgruppe.

Sie rufen das Modell über die OpenAI-kompatible API von api14 mit der Modell-ID amazon/nova-lite-v1 auf. Da die Schnittstelle dem OpenAI-Format folgt, funktionieren bestehende OpenAI-Client-Bibliotheken und Anfrageformen im Allgemeinen, wenn nur der Modellname geändert wird. Die unterstützten Anfrageparameter sind max_tokens, stop, temperature, tools, top_k und top_p. Der Parameter tools bedeutet, dass Funktions- oder Tool-Aufrufe verfügbar sind, sodass das Modell in agentenähnlichen Setups verwendet werden kann, in denen es entscheidet, wann eine externe Funktion aufgerufen wird. temperature, top_k und top_p bieten Kontrolle über das Sampling, während stop Ihnen erlaubt, Sequenzen zu definieren, die die Generierung beenden, und max_tokens die Antwortlänge begrenzt.

Einige Grenzen sollten Sie abwägen, bevor Sie sich festlegen. Die Ausgabe ist auf 5.120 Tokens begrenzt, wenn Sie also sehr lange einzelne Antworten benötigen, könnte ein Modell mit einem höheren Ausgabelimit besser passen. Der Wissensstand vom 31. Oktober 2024 bedeutet, dass Fragen zu späteren Ereignissen den relevanten Kontext im Prompt erfordern. Das Modell gibt nur Text aus, es kann also keine Bilder erzeugen. Wenn Ihre Aufgabe rein textbasiert ist und nicht von Bildeingaben oder einem sehr großen Kontext profitiert, kann ein einfacheres reines Textmodell ausreichen.