Tencent: Hy-MT2-7B

Tencent: Hy-MT2-7B to model tłumaczeniowy od Tencent. Jest to model o 7 miliardach parametrów, co plasuje go na niższym końcu zakresu parametrów dla modeli tego typu, i należy do kategorii tekstowych. Jego opis od dostawcy przedstawia go konkretnie jako system tłumaczeniowy, a nie model czatu ogólnego przeznaczenia, więc zamierzonym zadaniem jest konwersja tekstu z jednego języka na inny.

Model przyjmuje tekst jako dane wejściowe i zwraca tekst jako dane wyjściowe. Ma okno kontekstu wynoszące 8192 tokeny, a maksymalne wyjście to 4096 tokenów. Według Tencent obsługuje 33 pary językowe plus pięć par chińskich dialektów i języków mniejszościowych. Poza zwykłym tłumaczeniem zdań oferuje przepływy pracy dla tłumaczenia strukturalnego, tłumaczenia opartego na delimiterach, tłumaczenia kontekstowego, tłumaczenia opartego na glosariuszu i tłumaczenia kierowanego stylem. Te przepływy pracy mają znaczenie, ponieważ pozwalają kontrolować terminologię i ton, zamiast akceptować to, co model wygeneruje domyślnie.

Praktyczne zastosowania wynikają z tego zestawu funkcji. Tłumaczenie oparte na glosariuszu pasuje do dokumentacji, katalogów produktów oraz materiałów prawnych lub technicznych, gdzie konkretne terminy muszą być spójnie mapowane między językami. Tłumaczenie kontekstowe pomaga w dłuższych fragmentach, gdzie zdania nie można dobrze przetłumaczyć w izolacji, na przykład w dialogach, wątkach wsparcia lub artykułach wieloakapitowych. Tłumaczenie kierowane stylem jest przydatne, gdy ta sama treść ma brzmieć inaczej dla różnych odbiorców, na przykład formalny kontra swobodny tekst marketingowy. Przepływy pracy oparte na delimiterach i strukturalne pasują do potoków, w których przetłumaczone segmenty muszą być oddzielone lub wyrównane ze źródłem, co jest powszechne w narzędziach do lokalizacji. Pokrycie chińskich dialektów i języków mniejszościowych rozszerza to na treści skierowane do tych odbiorców.

Model wywołujesz przez API zgodne z OpenAI w api14, używając identyfikatora modelu "tencent/hy-mt2-7b". Ponieważ interfejs podąża za kształtem uzupełnień czatu OpenAI, możesz skierować istniejącego klienta OpenAI na api14 i zmienić ciąg modelu. Obsługiwane parametry żądania to max_completion_tokens, max_tokens, response_format, stop, structured_outputs i temperature. Temperature daje kontrolę nad tym, jak dosłowne lub zróżnicowane jest wyjście, stop pozwala przerwać generowanie na wybranej sekwencji, a response_format razem ze structured_outputs jest przydatne, gdy potrzebujesz, aby przetłumaczony wynik został zwrócony w zdefiniowanym kształcie do dalszego przetwarzania.

Okno kontekstu wynoszące 8192 tokeny to główne ograniczenie, o którym należy pamiętać. Bardzo długie dokumenty będą wymagały podzielenia na fragmenty, a dzielenie na fragmenty wpływa na jakość tłumaczenia, ponieważ kontekst jest tracony na granicach. Limit wyjścia wynoszący 4096 tokenów oznacza również, że pojedyncze żądanie nie może zwrócić dowolnie długiego tłumaczenia. Jeśli twoim zadaniem jest ogólne rozumowanie, streszczanie lub kod, a nie tłumaczenie, model tekstowy ogólnego przeznaczenia będzie zwykle lepszym wyborem. Do pracy tłumaczeniowej w tych limitach rozmiaru ten model jest bardziej ukierunkowanym wyborem.