Wir verwenden Cookies. Cookies und Browserspeicher halten Sie angemeldet und merken sich Ihre Einstellungen. Mit Ihrer Zustimmung messen wir außerdem, wie die Website genutzt wird. Sie können jederzeit . Siehe unsere Cookie-Richtlinie.
inclusionai/ling-3.0-tinyLäuft über Ihr Guthaben zu den oben genannten Preisen. Neue Konten starten mit kostenloser Nutzung.
Einstellungen
Ling 3.0 Tiny ist ein Textmodell von inclusionAI. Es ist ein Mixture-of-Experts-Modell mit 1,3B aktiven Parametern von insgesamt 7,9B. Das Design zielt auf reaktionsschnelle Agenten, Instruction Following und Multi-Turn-Konversationen ab, und das Modell unterstützt umschaltbares Reasoning-Verhalten. Es gehört zur Textkategorie, ist also für Sprachaufgaben gedacht und nicht für Bilder, Audio oder andere Medien.
Das Modell nimmt Text als Eingabe und gibt Text als Ausgabe zurück. Sein Kontextfenster beträgt 262144 Tokens, und die maximale Ausgabe liegt bei 250000 Tokens, was bedeutet, dass sowohl sehr lange Eingaben als auch sehr lange Generierungen innerhalb einer einzigen Anfrage möglich sind. Reasoning kann ein- oder ausgeschaltet werden, und wenn es aktiviert ist, kann der Reasoning-Inhalt separat über den Parameter include_reasoning ausgegeben werden. Diese Kombination aus großem Kontext und vergleichsweise kleiner Anzahl aktiver Parameter macht es zu einem Kandidaten für Workloads, bei denen Latenz und Durchsatz neben langen Dokumenten wichtig sind.
Praktische Anwendungen ergeben sich aus diesen Eigenschaften. Reaktionsschnelle Agenten und toolgesteuerte Workflows passen zur Instruction-Following- und Tool-Unterstützung. Multi-Turn-Konversationssysteme profitieren vom langen Kontext, da frühere Turns und Referenzmaterial im Prompt bleiben können. Langdokument-Zusammenfassung, Extraktion und Fragebeantwortung sind machbar, weil das Kontextfenster groß ist. Aufgaben mit strukturierter Ausgabe funktionieren über response_format, und Klassifizierungs- oder Bewertungsaufgaben können logprobs und top_logprobs nutzen. Reasoning-lastige Prompts können behandelt werden, indem Reasoning aktiviert wird, wenn eine Aufgabe Schritt-für-Schritt-Arbeit vor der endgültigen Antwort erfordert.
Sie rufen das Modell über die OpenAI-kompatible API von api14 mit der Modell-ID "inclusionai/ling-3.0-tiny" auf. Da die Schnittstelle der Form der OpenAI-Chat-Completions folgt, funktionieren bestehende OpenAI-SDKs und Clients, indem die Basis-URL auf api14 gesetzt und die Modell-ID angegeben wird. Die unterstützten Anfrageparameter sind frequency_penalty, include_reasoning, logprobs, max_tokens, presence_penalty, reasoning, response_format, seed, stop, temperature, tools, top_logprobs und top_p. Verwenden Sie max_tokens, um die Generierung zu begrenzen, temperature und die Penalty-Parameter, um Stil und Wiederholung zu steuern, seed für reproduzierbares Sampling und stop, um die Generierung bei gewählten Sequenzen zu beenden. Tools ermöglicht Function Calling, und response_format schränkt die Ausgabestruktur ein.
Es gibt Fälle, in denen ein anderes Modell besser passen könnte. Dieses Modell verarbeitet nur Text, daher benötigen Aufgaben, die Bild- oder Audioeingabe oder -ausgabe erfordern, ein anderes Modell. Es ist eine Tiny-Variante, wenn eine Aufgabe also das bestmögliche Reasoning oder Wissen verlangt, kann ein größeres Modell derselben Familie oder eines anderen Anbieters die bessere Wahl sein. Für unkomplizierte Textgenerierung, Agenten und Long-Context-Arbeit innerhalb der unterstützten Parameter ist es eine vernünftige Standardwahl.
In dieser Community gibt es noch keine Themen. Eröffnen Sie das erste zu inclusionAI: Ling 3.0 Tiny.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "inclusionai/ling-3.0-tiny",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_tokenspresence_penaltyreasoningresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_logprobstop_p