Amazon: Nova Pro 1.0

Amazon Nova Pro 1.0 ist ein Textgenerierungsmodell von Amazon, das auf api14 unter der Modell-ID amazon/nova-pro-v1 gelistet ist. Es gehört zur Kategorie Text und wird von Amazon als leistungsfähiges multimodales Modell beschrieben, das Genauigkeit, Geschwindigkeit und Kosten über ein breites Aufgabenspektrum hinweg kombiniert. Es wurde vom Anbieter am 5. Dezember 2024 veröffentlicht, und sein Wissensstand endet am 31. Oktober 2024, sodass alles, was nach diesem Datum geschah, außerhalb dessen liegt, worauf das Modell trainiert wurde.

Auf der Eingabeseite akzeptiert Nova Pro 1.0 Text und Bilder, was es multimodal statt rein textbasiert macht. Die Ausgabe ist Text. Das Kontextfenster umfasst 300.000 Token, was groß genug ist, um lange Dokumente, umfangreiche Gesprächsverläufe oder eine Mischung aus Text und Bildern in einer einzigen Anfrage aufzunehmen. Die maximale Ausgabe beträgt 5.120 Token, sodass Antworten deutlich unterhalb der Eingabekapazität begrenzt sind. Wenn Ihre Aufgabe davon abhängt, sehr lange einzelne Antworten zu erzeugen, ist diese Ausgabeobergrenze die Zahl, die Sie im Auge behalten sollten.

Diese Fähigkeiten deuten auf eine ziemlich breite Palette praktischer Anwendungen hin. Da es ebenso Bilder wie Text liest, eignet es sich für Aufgaben wie das Beschreiben oder Schlussfolgern über Screenshots, Diagramme, Fotos und gescannte Seiten zusammen mit schriftlichen Anweisungen. Der Kontext von 300.000 Token passt zur Analyse langer Dokumente, zur Zusammenfassung großer Dateien und zu mehrrundigen Gesprächen, bei denen früherer Kontext sichtbar bleiben muss. Tool-Unterstützung bedeutet, dass es in Arbeitsabläufen verwendet werden kann, in denen das Modell Funktionen oder externe Dienste aufruft, was für Assistenten und Agenten nützlich ist. Allgemeine Textgenerierung, Extraktion und Beantwortung von Fragen über gemischte Text- und Bildeingaben sind allesamt sinnvolle Einsatzbereiche.

Sie rufen das Modell über die OpenAI-kompatible API von api14 mit der Modell-ID "amazon/nova-pro-v1" auf. Die unterstützten Anfrageparameter sind max_tokens, stop, temperature, tools, top_k und top_p. Das deckt die üblichen Sampling-Steuerungen (temperature, top_p, top_k), die Ausgabelänge über max_tokens, Stoppsequenzen sowie Tool- oder Funktionsaufrufe über tools ab. Da die Schnittstelle OpenAI-kompatibel ist, funktionieren bestehende Clients und SDKs, die auf das OpenAI-Chat-Format abzielen, im Allgemeinen, wenn nur die Modell-ID und die Basis-URL geändert werden.

Zwei Grenzen sollten Sie abwägen, bevor Sie sich festlegen. Die maximale Ausgabe von 5.120 Token ist bescheiden im Verhältnis zum Eingabefenster von 300.000 Token, sodass Arbeitslasten, die sehr lange generierte Antworten benötigen, eingeschränkt sein können. Der Wissensstand vom 31. Oktober 2024 bedeutet außerdem, dass das Modell keine eingebaute Kenntnis späterer Ereignisse hat, sodass Aufgaben, die auf aktuellen Informationen beruhen, Retrieval oder Tools statt des eigenen Wissens des Modells erfordern. Wenn Ihre Arbeit rein textbasiert ist und nicht von Bildeingaben profitiert, könnte ein rein textbasiertes Modell einfacher passen, aber für gemischte Text- und Bildaufgaben mit langem Kontext deckt Nova Pro 1.0 den hier beschriebenen Bereich ab.