Tencent: Hy-MT2-30B-A3B

Tencent: Hy-MT2-30B-A3B è un modello testuale di Tencent, posizionato come modello di traduzione di punta della famiglia Hy-MT2. È un modello text-in, text-out, quindi accetta prompt come testo e restituisce testo, senza gestione di immagini o audio. Se stai integrando la traduzione o l'elaborazione multilingue del testo in un'applicazione, questo è il modello della famiglia che Tencent considera la sua opzione principale.

Il modello supporta 33 coppie linguistiche insieme a cinque coppie di dialetti cinesi e lingue minoritarie. Oltre alla semplice traduzione di frasi, il provider descrive flussi di lavoro per la traduzione strutturata, basata su delimitatori, contestuale e basata su glossari, il che significa che puoi modellare il formato di output e fornire terminologia che il modello deve seguire. La finestra di contesto è di 8192 token e l'output massimo è di 4096 token, quindi una singola richiesta può contenere un passaggio di origine ragionevolmente lungo più le istruzioni, lasciando comunque spazio per il risultato tradotto. Input e output sono solo testo.

Queste capacità indicano un insieme piuttosto specifico di casi d'uso. Le pipeline di localizzazione sono l'adattamento ovvio: tradurre stringhe di prodotto, documentazione o contenuti di supporto attraverso molte coppie linguistiche, con il supporto dei glossari che aiuta a mantenere coerenti i nomi dei prodotti e i termini di dominio. I flussi di lavoro basati su delimitatori e strutturati si adattano a lavori in batch in cui invii diversi segmenti in una sola richiesta e hai bisogno che le risposte siano separate in modo prevedibile. La traduzione contestuale è utile quando una frase non può essere tradotta bene in isolamento, come nei dialoghi, nel testo dell'interfaccia utente con segnaposto o nel testo che fa riferimento a frasi precedenti. Le coppie di dialetti cinesi e lingue minoritarie sono utili per prodotti regionali e contenuti che i modelli di traduzione mainstream spesso gestiscono male. Poiché il limite di output è di 4096 token, i documenti lunghi è meglio suddividerli in blocchi anziché inviarli interi.

Chiami il modello tramite l'API compatibile con OpenAI di api14 usando l'id del modello "tencent/hy-mt2-30b-a3b". Poiché l'interfaccia segue la forma delle chat completions di OpenAI, puoi puntare un client OpenAI esistente all'URL di base di api14 e cambiare l'id del modello, senza altre modifiche strutturali. I parametri di richiesta supportati sono max_completion_tokens, max_tokens, response_format, stop, structured_outputs e temperature. Usa temperature per controllare quanto letterale o varia sia la traduzione, stop per terminare la generazione a una sequenza scelta, e response_format o structured_outputs quando hai bisogno della risposta in una forma definita anziché come testo libero. Nota che max_tokens e max_completion_tokens sono entrambi accettati, quindi scegli una convenzione e mantienila coerente.

Il vincolo principale da considerare è la dimensione. Con una finestra di contesto di 8192 token e un tetto di output di 4096 token, questo modello è pensato per passaggi e segmenti anziché per interi libri in una sola chiamata. Se il tuo compito è il ragionamento generale, la generazione di codice o l'analisi di documenti lunghi anziché la traduzione, un modello testuale generico di solito si adatta meglio. Nel lavoro di traduzione, però, la copertura linguistica, le coppie di dialetti e i flussi di lavoro con glossari e delimitatori sono le ragioni per scegliere questo modello invece di uno generico.