Meta: Llama 3.1 70B Instruct to model tekstowy od Meta, wydany 2024-07-23. Tencent: Hy3 preview to model tekstowy od Tencent, wydany 2026-04-22. Oba są udostępniane przez api14 jako modele w stylu czatu z pojedynczym wejściem tekstowym i wyjściem tekstowym, więc na poziomie podstawowej struktury żądania wyglądają podobnie. Różnice ujawniają się w długości kontekstu, obsługiwanych parametrach i cenie.
Najbardziej oczywisty podział dotyczy kontekstu. Llama 3.1 70B Instruct ma okno kontekstu wynoszące 131072 tokeny, podczas gdy Hy3 preview podwaja to, osiągając 262096 tokenów, więc Hy3 preview jest tym, po który warto sięgnąć, gdy Twój prompt, dokumenty lub historia rozmowy są długie. Hy3 preview udostępnia także parametry, których Llama 3.1 70B Instruct nie ma: include_reasoning, reasoning, reasoning_effort, seed i tools, plus obsługę narzędzi. Oznacza to, że Hy3 preview jest jedynym z tych dwóch, który potrafi wywoływać narzędzia, i jedynym z kontrolą rozumowania. Llama 3.1 70B Instruct obsługuje max_tokens, stop, temperature, top_k i top_p, co pokrywa zwykłe próbkowanie, ale nic poza tym. Jeśli chodzi o cenę, Hy3 preview jest tańszą opcją zarówno dla tokenów wejściowych, jak i wyjściowych.
W codziennej pracy wybór zwykle sprowadza się do tego, czy potrzebujesz dodatkowych funkcji. Jeśli wykonujesz prostą generację, streszczanie, klasyfikację lub czat, w którym stały prompt mieści się wygodnie i nie potrzebujesz, aby model wywoływał funkcje, Llama 3.1 70B Instruct jest rozsądną, dobrze znaną opcją, a jej parametry próbkowania dają Ci zwykłe pokrętła. Jeśli potrzebujesz, aby model wywoływał narzędzia, jeśli chcesz dostroić wysiłek rozumowania, lub jeśli Twoje dane wejściowe są wystarczająco duże, że okno 131072 tokenów jest ciasne, Hy3 preview lepiej pasuje, a jest także tańszy z tych dwóch zarówno na wejściu, jak i na wyjściu. Większy kontekst i parametry rozumowania czynią go bardziej elastycznym modelem do zadań w stylu agentowym lub mocno opartych na wyszukiwaniu.
Wywołanie któregokolwiek z nich przez api14 działa w ten sam sposób. Oba są zgodne z OpenAI, więc kierujesz swojego istniejącego klienta na bazowy URL api14, wysyłasz swój klucz i ustawiasz pole model. Aby użyć Llama 3.1 70B Instruct, przekazujesz "meta-llama/llama-3.1-70b-instruct" jako identyfikator modelu. Aby użyć Hy3 preview, przekazujesz "tencent/hy3-preview". Wszystko inne w treści żądania pozostaje bez zmian, a odpowiedź wraca w tym samym kształcie. Przełączanie między nimi to zmiana jednej linii, co ułatwia przetestowanie obu na własnych promptach przed podjęciem decyzji.
Nadal istnieje argument za Llama 3.1 70B Instruct, mimo że Hy3 preview jest tańszy i ma więcej funkcji. Jeśli Twoje obciążenie to zwykła generacja tekstu bez wywołań narzędzi i bez potrzeby kontroli rozumowania, a Twoje prompty mieszczą się w 131072 tokenach, to dodatkowe parametry w Hy3 preview nic Ci nie dają i możesz wybrać którykolwiek bez utraty czegokolwiek funkcjonalnego. W takiej sytuacji decyzja dotyczy głównie tego, które wyniki modelu preferujesz na własnych danych, co jest czymś, co może rozstrzygnąć tylko Twoja własna ocena.