XingChen: Xing4.0 29B A4B (free)

XingChen : Xing4.0 29B A4B (gratuit) est un modèle de langage à mélange d'experts à poids ouverts de XingChen, développé par l'équipe IA de China Telecom (TeleAI). Il succède à la série TeleChat. Le modèle compte 29B de paramètres au total avec 4B actifs par token, ce qui signifie qu'un sous-ensemble seulement du réseau est mobilisé pour chaque token généré. C'est un modèle texte uniquement, classé dans la catégorie texte sur api14.

Le modèle accepte du texte en entrée et produit du texte en sortie. Il prend en charge une fenêtre de contexte de 262144 tokens, et sa longueur de sortie maximale est de 235929 tokens. Cette combinaison le rend adapté aux charges de travail où des documents très longs ou des conversations étendues doivent être traités en une seule requête, et où la réponse générée elle-même peut être longue. Comme il s'agit d'une conception à mélange d'experts, le nombre de paramètres actifs par token est bien inférieur au total, ce qui est pertinent si vous raisonnez en termes de débit et de caractéristiques de service plutôt que sur le seul nombre brut de paramètres.

Les cas d'usage pratiques découlent directement du contexte long et de l'interface texte uniquement. Vous pouvez l'utiliser pour résumer ou analyser de longs rapports, contrats, transcriptions ou bases de code qui ne tiendraient pas dans des fenêtres de contexte plus petites. Il convient aux assistants multi-tours qui doivent conserver un grand volume de conversation antérieure, et à la question-réponse sur documents où le matériel source est transmis intégralement. La prise en charge des outils et des sorties structurées en fait également un candidat pour les flux de travail de type agent, l'appel de fonctions, et les applications qui nécessitent des réponses dans une forme JSON définie plutôt qu'en texte libre.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "xingchen-agi/xing4.0-29b-a4b:free". Comme le point de terminaison suit le format des complétions de chat d'OpenAI, vous pouvez utiliser les SDK OpenAI existants et les pointer vers api14. Le modèle prend en charge un large ensemble de paramètres de requête : frequency_penalty, include_reasoning, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k et top_p. La présence de reasoning et include_reasoning signifie que vous pouvez demander une sortie de raisonnement là où le modèle l'expose, et tools plus tool_choice et structured_outputs couvrent l'appel de fonctions et la génération contrainte par schéma.

Un point à peser est qu'il s'agit d'un modèle texte uniquement, il ne peut donc pas accepter d'images ou d'audio en entrée, et il n'en produit pas. Si votre application dépend d'une entrée multimodale, vous auriez besoin d'un autre modèle. La variante gratuite mérite également d'être testée par rapport à vos propres exigences de latence et de qualité avant de vous engager à l'utiliser en production, car les faits ici décrivent des capacités et des paramètres plutôt que des performances mesurées.