Tencent: Hy-MT2-30B-A3B

Tencent: Hy-MT2-30B-A3B ist ein Textmodell von Tencent, positioniert als das Flaggschiff-Übersetzungsmodell der Hy-MT2-Familie. Es ist ein Text-in-Text-out-Modell, nimmt also Prompts als Text entgegen und gibt Text zurück, ohne Bild- oder Audioverarbeitung. Wenn Sie Übersetzung oder mehrsprachige Textverarbeitung in eine Anwendung einbauen, ist dies das Modell der Familie, das Tencent als seine Top-Option behandelt.

Das Modell unterstützt 33 Sprachpaare sowie fünf Paare aus chinesischen Dialekten und Minderheitensprachen. Über die reine Satzübersetzung hinaus beschreibt der Anbieter Workflows für strukturierte, delimiter-basierte, kontextuelle und glossarbasierte Übersetzung, was bedeutet, dass Sie das Ausgabeformat gestalten und Terminologie vorgeben können, die das Modell befolgen soll. Das Kontextfenster beträgt 8192 Token, und die maximale Ausgabe beträgt 4096 Token, sodass eine einzelne Anfrage eine einigermaßen lange Quellpassage plus Anweisungen aufnehmen kann, während noch Platz für das übersetzte Ergebnis bleibt. Eingaben und Ausgaben sind reiner Text.

Diese Fähigkeiten deuten auf eine ziemlich spezifische Gruppe von Anwendungsfällen hin. Lokalisierungspipelines sind die offensichtliche Passung: Übersetzen von Produktstrings, Dokumentation oder Support-Inhalten über viele Sprachpaare hinweg, wobei die Glossarunterstützung hilft, Produktnamen und Domänenbegriffe konsistent zu halten. Delimiter-basierte und strukturierte Workflows eignen sich für Batch-Jobs, bei denen Sie mehrere Segmente in einer Anfrage senden und die Antworten auf vorhersehbare Weise getrennt benötigen. Kontextuelle Übersetzung hilft, wenn ein Satz nicht isoliert gut übersetzt werden kann, etwa bei Dialogen, UI-Texten mit Platzhaltern oder Text, der auf frühere Sätze verweist. Die Paare aus chinesischen Dialekten und Minderheitensprachen sind nützlich für regionale Produkte und Inhalte, die gängige Übersetzungsmodelle oft schlecht handhaben. Da das Ausgabelimit 4096 Token beträgt, sollten lange Dokumente besser in Abschnitte aufgeteilt als vollständig gesendet werden.

Sie rufen das Modell über die OpenAI-kompatible API von api14 mit der Modell-ID "tencent/hy-mt2-30b-a3b" auf. Da die Schnittstelle der Form der OpenAI-Chat-Completions folgt, können Sie einen vorhandenen OpenAI-Client auf die Basis-URL von api14 richten und die Modell-ID ändern, ohne weitere strukturelle Änderungen. Die unterstützten Anfrageparameter sind max_completion_tokens, max_tokens, response_format, stop, structured_outputs und temperature. Verwenden Sie temperature, um zu steuern, wie wörtlich oder variiert die Übersetzung ist, stop, um die Generierung an einer gewählten Sequenz zu beenden, und response_format oder structured_outputs, wenn Sie die Antwort in einer definierten Form statt als Freitext benötigen. Beachten Sie, dass max_tokens und max_completion_tokens beide akzeptiert werden, wählen Sie also eine Konvention und bleiben Sie konsistent.

Die wichtigste Einschränkung, um die Sie planen sollten, ist die Größe. Mit einem Kontextfenster von 8192 Token und einer Ausgabeobergrenze von 4096 Token ist dieses Modell für Passagen und Segmente gebaut, nicht für ganze Bücher in einem Aufruf. Wenn Ihre Aufgabe allgemeines Reasoning, Codegenerierung oder Langdokumentanalyse statt Übersetzung ist, passt ein allgemeines Textmodell meist besser. Innerhalb der Übersetzungsarbeit sind jedoch die Sprachabdeckung, die Dialektpaare sowie die Glossar- und Delimiter-Workflows die Gründe, dieses Modell einem generischen vorzuziehen.