Meta: Llama 3.1 70B Instruct is een tekstmodel van Meta, uitgebracht op 2024-07-23. Tencent: Hy3 preview is een tekstmodel van Tencent, uitgebracht op 2026-04-22. Beide worden via api14 aangeboden als chatmodellen met een enkele tekstinvoer en tekstuitvoer, dus op het niveau van de basisvorm van het verzoek lijken ze op elkaar. De verschillen komen naar voren in contextlengte, ondersteunde parameters en prijs.
De meest voor de hand liggende splitsing is context. Llama 3.1 70B Instruct heeft een contextvenster van 131072 tokens, terwijl Hy3 preview dat verdubbelt naar 262096 tokens, dus Hy3 preview is degene die je pakt wanneer je prompt, documenten of gespreksgeschiedenis lang zijn. Hy3 preview biedt ook parameters die Llama 3.1 70B Instruct niet heeft: include_reasoning, reasoning, reasoning_effort, seed en tools, plus toolondersteuning. Dat betekent dat Hy3 preview de enige van de twee is die tool calling kan doen en de enige met reasoning-besturing. Llama 3.1 70B Instruct ondersteunt max_tokens, stop, temperature, top_k en top_p, wat gewone sampling dekt maar niets daarbuiten. Qua prijs is Hy3 preview de goedkopere optie voor zowel invoer- als uitvoertokens.
Voor dagelijks werk komt de keuze meestal neer op de vraag of je de extra functies nodig hebt. Als je eenvoudige generatie, samenvatting, classificatie of chat doet waarbij een vaste prompt comfortabel past en je niet wilt dat het model functies aanroept, is Llama 3.1 70B Instruct een redelijke, goed begrepen optie en de sampling-parameters geven je de gebruikelijke knoppen. Als je wilt dat het model tools aanroept, als je reasoning effort wilt afstemmen, of als je invoer groot genoeg is dat een venster van 131072 tokens krap is, is Hy3 preview de betere keuze, en het is ook de goedkoopste van de twee voor zowel invoer als uitvoer. De grotere context en de reasoning-parameters maken het het flexibelere model voor agent-achtige of retrieval-zware workloads.
Een van beide aanroepen via api14 werkt hetzelfde. Beide zijn OpenAI-compatibel, dus je richt je bestaande client op de api14 base URL, stuurt je sleutel mee en stelt het model-veld in. Om Llama 3.1 70B Instruct te gebruiken geef je "meta-llama/llama-3.1-70b-instruct" door als model-id. Om Hy3 preview te gebruiken geef je "tencent/hy3-preview" door. Al het andere in de request body blijft zoals het is, en de response komt terug in dezelfde vorm. Wisselen tussen de twee is een wijziging van een regel, wat het makkelijk maakt om beide tegen je eigen prompts te testen voordat je je vastlegt.
Er is nog steeds een argument voor Llama 3.1 70B Instruct, ook al is Hy3 preview goedkoper en heeft het meer functies. Als je workload gewone tekstgeneratie is zonder tool calls en zonder behoefte aan reasoning-besturing, en je prompts passen binnen 131072 tokens, dan leveren de extra parameters op Hy3 preview je niets op, en kun je een van beide kiezen zonder iets functioneels te verliezen. In die situatie gaat de beslissing vooral over van welk model je de uitvoer prettiger vindt op je eigen data, iets wat alleen je eigen evaluatie kan beslechten.