Tencent: Hy-MT2-30B-A3B

Tencent: Hy-MT2-30B-A3B är en textmodell från Tencent, positionerad som flaggskeppsöversättningsmodellen i Hy-MT2-familjen. Det är en text-in, text-ut-modell, så den tar prompts som text och returnerar text, utan hantering av bild eller ljud. Om du bygger in översättning eller flerspråkig textbehandling i en applikation är detta modellen i familjen som Tencent behandlar som sitt främsta alternativ.

Modellen stöder 33 språkpar tillsammans med fem par för kinesiska dialekter och minoritetsspråk. Utöver vanlig meningsöversättning beskriver leverantören arbetsflöden för strukturerad, avgränsarbaserad, kontextuell och ordlistebaserad översättning, vilket innebär att du kan forma utdataformatet och tillhandahålla terminologi som modellen ska följa. Kontextfönstret är 8192 tokens, och maximal utdata är 4096 tokens, så en enskild begäran kan rymma en rimligt lång källtext plus instruktioner och ändå lämna utrymme för det översatta resultatet. Indata och utdata är endast text.

Dessa förmågor pekar mot en ganska specifik uppsättning användningsfall. Lokaliseringspipelines är den uppenbara matchningen: översätta produktsträngar, dokumentation eller supportinnehåll över många språkpar, med ordlistestöd som hjälper till att hålla produktnamn och domäntermer konsekventa. Avgränsarbaserade och strukturerade arbetsflöden passar batchjobb där du skickar flera segment i en begäran och behöver svaren separerade på ett förutsägbart sätt. Kontextuell översättning hjälper när en mening inte kan översättas bra isolerat, till exempel dialog, UI-text med platshållare, eller text som refererar tillbaka till tidigare meningar. Paren för kinesiska dialekter och minoritetsspråk är användbara för regionala produkter och innehåll som vanliga översättningsmodeller ofta hanterar dåligt. Eftersom utdatagränsen är 4096 tokens är långa dokument bättre att dela upp i bitar än att skicka hela.

Du anropar modellen via api14's OpenAI-kompatibla API med modell-id:t "tencent/hy-mt2-30b-a3b". Eftersom gränssnittet följer OpenAI chat completions-formen kan du peka en befintlig OpenAI-klient mot api14's bas-URL och ändra modell-id:t, utan andra strukturella ändringar. De stödda begäranparametrarna är max_completion_tokens, max_tokens, response_format, stop, structured_outputs och temperature. Använd temperature för att styra hur bokstavlig eller varierad översättningen är, stop för att avsluta genereringen vid en vald sekvens, och response_format eller structured_outputs när du behöver svaret i en definierad form snarare än fritext. Notera att både max_tokens och max_completion_tokens accepteras, så välj en konvention och håll dig konsekvent.

Den främsta begränsningen att planera kring är storlek. Med ett kontextfönster på 8192 tokens och ett utdatatak på 4096 tokens är denna modell byggd för stycken och segment snarare än hela böcker i ett anrop. Om din uppgift är allmän resonemang, kodgenerering eller analys av långa dokument snarare än översättning, passar en allmän textmodell vanligtvis bättre. Inom översättningsarbete är dock språktäckningen, dialektparen samt ordliste- och avgränsararbetsflödena anledningarna att välja denna modell framför en generisk.