Mistral: Mistral Nemo

Mistral Nemo ist ein Textmodell von Mistral, entwickelt in Zusammenarbeit mit NVIDIA. Es ist ein Modell mit 12B Parametern, und das Veröffentlichungsdatum des Anbieters war der 19. Juli 2024. Das Modell ist mehrsprachig und unterstützt Englisch, Französisch, Deutsch, Spanisch, Italienisch, Portugiesisch, Chinesisch, Japanisch und weitere Sprachen. Wenn Sie ein Modell für ein Projekt auswählen, gehört dieses zur kleineren, effizienten Kategorie in Mistrals Produktpalette und nicht zu den größten Flaggschiffmodellen.

Das Modell nimmt Text als Eingabe und gibt Text als Ausgabe zurück, es ist also ein einfaches Sprachmodell ohne Bild- oder Audioverarbeitung. Sein Kontextfenster beträgt 131072 Tokens, was groß genug ist, um lange Dokumente, ausgedehnte Gespräche oder umfangreiche Codedateien in einer einzigen Anfrage zu erfassen. Die maximale Ausgabe beträgt 16384 Tokens, Antworten können also lang sein, sind aber deutlich unter dem Eingabelimit begrenzt. Der Wissensstand endet am 30. April 2024, was wichtig ist, wenn Ihre Aufgabe von Ereignissen oder Informationen nach diesem Datum abhängt.

Diese Fähigkeiten deuten auf einige praktische Anwendungen hin. Der lange Kontext eignet sich zum Zusammenfassen oder Extrahieren von Informationen aus langen Berichten, Verträgen und Transkripten, und die Mehrsprachigkeit hilft bei der Übersetzung und bei Anwendungen, die Nutzer in mehreren Sprachen bedienen. Da das Modell nur Text annimmt und zurückgibt, eignet es sich für Chat-Assistenten, Fragebeantwortung über bereitgestellte Dokumente, Entwerfen und Umschreiben, Klassifizierung und andere Texttransformationsaufgaben. Die Obergrenze von 16384 Tokens für die Ausgabe bedeutet, dass sehr lange generierte Dokumente möglicherweise in mehreren Durchgängen erstellt werden müssen.

Sie können das Modell über die OpenAI-kompatible API von api14 mit der Modell-ID "mistralai/mistral-nemo" aufrufen. Die unterstützten Anfrageparameter sind frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs und top_p. Dieser Satz deckt Sampling-Steuerungen, deterministische Seeding, Stoppsequenzen, strukturierte Ausgaben und Tool-Aufrufe ab, sodass Sie sowohl den Stil der Ausgabe als auch ihr Format gestalten können, ohne die Standardschnittstelle zu verlassen.

Einige Grenzen sollten Sie im Hinterkopf behalten. Eingabe und Ausgabe sind nur Text, daher benötigen Aufgaben, die das Analysieren von Bildern oder Audio erfordern, ein anderes Modell. Der Wissensstand vom 30. April 2024 bedeutet, dass das Modell keine eingebaute Kenntnis späterer Ereignisse hat, und die Obergrenze von 16384 Tokens für die Ausgabe schränkt die Länge einer einzelnen Antwort ein. Wenn Ihre Arbeitslast von einem dieser Punkte abhängt, könnte ein anderes Modell besser passen.