XingChen: Xing4.0 29B A4B (free)

XingChen: Xing4.0 29B A4B (free) é um modelo de linguagem de mistura de especialistas de pesos abertos da XingChen, desenvolvido pela equipe de IA da China Telecom (TeleAI). É o sucessor da série TeleChat. O modelo tem 29B parâmetros totais com 4B ativos por token, o que significa que apenas um subconjunto da rede é acionado para cada token gerado. É um modelo apenas de texto, listado na categoria de texto em api14.

O modelo aceita texto como entrada e produz texto como saída. Suporta uma janela de contexto de 262144 tokens, e seu comprimento máximo de saída é de 235929 tokens. Essa combinação o torna adequado para cargas de trabalho em que documentos muito longos ou conversas prolongadas precisam ser processados em uma única requisição, e em que a própria resposta gerada pode ser extensa. Por ser um design de mistura de especialistas, a contagem de parâmetros ativos por token é muito menor que o total, o que é relevante se você está pensando em throughput e características de serving em vez de apenas na contagem bruta de parâmetros.

Casos de uso práticos decorrem diretamente do contexto longo e da interface apenas de texto. Você pode usá-lo para resumir ou analisar relatórios longos, contratos, transcrições ou bases de código que não caberiam em janelas de contexto menores. Ele é adequado para assistentes multi-turno que precisam reter uma grande quantidade de conversa anterior, e para perguntas e respostas sobre documentos em que o material de origem é passado integralmente. O suporte a ferramentas e saída estruturada também o torna um candidato para fluxos de trabalho no estilo agente, chamada de funções e aplicações que precisam de respostas em um formato JSON definido em vez de texto livre.

Você chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo "xingchen-agi/xing4.0-29b-a4b:free". Como o endpoint segue o formato de chat completions da OpenAI, você pode usar SDKs OpenAI existentes e apontá-los para a api14. O modelo suporta um amplo conjunto de parâmetros de requisição: frequency_penalty, include_reasoning, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k e top_p. A presença de reasoning e include_reasoning significa que você pode solicitar saída de raciocínio onde o modelo a expõe, e tools mais tool_choice e structured_outputs cobrem chamada de funções e geração restringida por esquema.

Um ponto a considerar é que este é um modelo apenas de texto, então ele não pode aceitar imagens ou áudio como entrada, e não os produz. Se sua aplicação depende de entrada multimodal, você precisaria de um modelo diferente. A variante gratuita também vale a pena ser testada em relação aos seus próprios requisitos de latência e qualidade antes de você se comprometer a usá-la em produção, já que os fatos aqui descrevem capacidades e parâmetros, e não desempenho medido.