Tencent: Hy-MT2-7B

Tencent: Hy-MT2-7B is een vertaalmodel van Tencent. Het is een model met 7B parameters, wat het aan de kleinere kant van het parameterbereik voor dit soort modellen plaatst, en het valt in de tekstcategorie. De beschrijving van de aanbieder kadert het specifiek als een vertaalsysteem in plaats van een algemeen chatmodel, dus het beoogde doel is tekst van de ene taal naar de andere omzetten.

Het model neemt tekst als invoer en geeft tekst als uitvoer. Het heeft een contextvenster van 8192 tokens, en de maximale uitvoer is 4096 tokens. Volgens Tencent ondersteunt het 33 taalparen plus vijf paren van Chinese dialecten en minderheidstalen. Naast gewone zinsvertaling biedt het workflows voor gestructureerde vertaling, vertaling op basis van scheidingstekens, contextuele vertaling, vertaling op basis van een woordenlijst en stijlgestuurde vertaling. Die workflows zijn belangrijk omdat je er terminologie en toon mee kunt sturen in plaats van te accepteren wat het model standaard produceert.

De praktische toepassingen volgen uit die functieset. Vertaling op basis van een woordenlijst is geschikt voor documentatie, productcatalogi en juridisch of technisch materiaal waarbij specifieke termen consistent tussen talen moeten worden toegewezen. Contextuele vertaling helpt bij langere passages waarin een zin niet goed afzonderlijk kan worden vertaald, zoals dialogen, ondersteuningsthreads of artikelen met meerdere alinea's. Stijlgestuurde vertaling is nuttig wanneer dezelfde inhoud anders moet lezen voor verschillende doelgroepen, bijvoorbeeld formele versus informele marketingteksten. Workflows op basis van scheidingstekens en gestructureerde workflows passen bij pipelines waarin vertaalde segmenten moeten worden gescheiden of uitgelijnd met hun bron, wat gebruikelijk is in lokalisatietools. De dekking van Chinese dialecten en minderheidstalen breidt dit uit naar content die op die doelgroepen is gericht.

Je roept het model aan via de OpenAI-compatibele API van api14 met het model-id "tencent/hy-mt2-7b". Omdat de interface de vorm van OpenAI chat completions volgt, kun je een bestaande OpenAI-client op api14 richten en de modelstring wijzigen. De ondersteunde aanvraagparameters zijn max_completion_tokens, max_tokens, response_format, stop, structured_outputs en temperature. Temperature geeft je controle over hoe letterlijk of gevarieerd de uitvoer is, stop laat je de generatie afbreken bij een gekozen reeks, en response_format samen met structured_outputs is nuttig wanneer je het vertaalde resultaat in een gedefinieerde vorm wilt retourneren voor verdere verwerking.

Het contextvenster van 8192 tokens is de belangrijkste beperking om in gedachten te houden. Zeer lange documenten moeten in stukken worden opgesplitst, en die opsplitsing beïnvloedt de vertaalkwaliteit omdat context verloren gaat op de grenzen. De uitvoerlimiet van 4096 tokens betekent ook dat één aanvraag geen willekeurig lange vertaling kan retourneren. Als je taak algemeen redeneren, samenvatten of code is in plaats van vertalen, is een algemeen tekstmodel meestal een betere keuze. Voor vertaalwerk binnen deze groottelimieten is dit model de gerichtere keuze.