XingChen: Xing4.0 29B A4B (free)

XingChen: Xing4.0 29B A4B (free) è un modello linguistico mixture-of-experts a pesi aperti di XingChen, sviluppato dal team AI di China Telecom (TeleAI). È il successore della serie TeleChat. Il modello ha 29B parametri totali con 4B attivi per token, il che significa che solo un sottoinsieme della rete viene coinvolto per ogni token generato. È un modello solo testo, elencato nella categoria testo su api14.

Il modello accetta testo come input e produce testo come output. Supporta una finestra di contesto di 262144 token, e la sua lunghezza massima di output è di 235929 token. Questa combinazione lo rende adatto a carichi di lavoro in cui documenti molto lunghi o conversazioni estese devono essere elaborati in una singola richiesta, e in cui la risposta generata stessa può essere lunga. Poiché è un design mixture-of-experts, il conteggio dei parametri attivi per token è molto inferiore al totale, il che è rilevante se si considerano throughput e caratteristiche di serving anziché il solo conteggio grezzo dei parametri.

I casi d'uso pratici derivano direttamente dal contesto lungo e dall'interfaccia solo testo. Puoi usarlo per riassumere o analizzare report lunghi, contratti, trascrizioni o basi di codice che non entrerebbero in finestre di contesto più piccole. È adatto ad assistenti multi-turno che devono conservare una grande quantità di conversazione precedente, e a domande e risposte su documenti in cui il materiale di origine viene passato integralmente. Il supporto per tool e output strutturato lo rende anche un candidato per flussi di lavoro in stile agente, function calling e applicazioni che necessitano di risposte in una forma JSON definita anziché testo libero.

Chiami il modello tramite l'API compatibile con OpenAI di api14 usando l'id del modello "xingchen-agi/xing4.0-29b-a4b:free". Poiché l'endpoint segue il formato chat completions di OpenAI, puoi usare gli SDK OpenAI esistenti e puntarli ad api14. Il modello supporta un ampio insieme di parametri di richiesta: frequency_penalty, include_reasoning, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k e top_p. La presenza di reasoning e include_reasoning significa che puoi richiedere output di ragionamento dove il modello lo espone, e tools insieme a tool_choice e structured_outputs coprono function calling e generazione vincolata da schema.

Una cosa da valutare è che questo è un modello solo testo, quindi non può accettare immagini o audio come input, e non li produce. Se la tua applicazione dipende da input multimodale, avresti bisogno di un modello diverso. Vale anche la pena testare la variante gratuita rispetto ai tuoi requisiti di latenza e qualità prima di impegnarti in produzione, poiché i fatti qui descrivono capacità e parametri anziché prestazioni misurate.