Free Models Router

Free Models Router est un modèle de texte d'OpenRouter. Plutôt qu'un modèle unique avec des poids fixes, il s'agit d'un routeur : lorsque vous envoyez une requête, il sélectionne au hasard des modèles gratuits parmi les modèles disponibles, en filtrant ceux qui peuvent traiter la requête. Le fournisseur le décrit comme le moyen le plus simple d'obtenir de l'inférence gratuite. Il est répertorié dans la catégorie texte et est identifié sur api14 par l'identifiant de modèle openrouter/free.

Le routeur accepte les entrées texte et image et renvoie une sortie texte, il peut donc traiter à la fois des invites en langage naturel et des invites contenant des images. Il offre une fenêtre de contexte de 200 000 tokens, suffisamment grande pour de longs documents, des conversations étendues et des fichiers de code volumineux en une seule requête. La longueur maximale de sortie n'est pas précisée dans les détails du modèle, vous devez donc considérer la taille de sortie comme dépendante du modèle sous-jacent qui traite votre requête plutôt que comme un chiffre publié fixe.

Comme le routeur choisit au hasard parmi des modèles gratuits, les cas d'usage pratiques sont les tâches générales de texte et de vision que ces modèles couvrent. Vous pouvez l'utiliser pour le chat et les questions-réponses, le résumé de longues entrées qui tiennent dans la fenêtre de contexte, la rédaction et l'édition de texte, l'extraction de données structurées via des formats de réponse et des sorties structurées, et la création d'agents ou de workflows d'appel d'outils. L'entrée d'images étend cela à des tâches telles que la description d'images, la réponse à des questions sur des captures d'écran ou des diagrammes, et la combinaison d'un contexte visuel avec des instructions écrites. Il convient au prototypage, à l'expérimentation et aux charges de travail à faible enjeu où vous souhaitez de l'inférence sans vous engager sur un modèle spécifique.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle openrouter/free. Les requêtes suivent la forme familière des complétions de chat, donc les bibliothèques clientes OpenAI existantes fonctionnent avec un changement d'URL de base et d'identifiant de modèle. Le routeur prend en charge un large ensemble de paramètres de requête : temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty et repetition_penalty pour le contrôle de l'échantillonnage ; max_tokens et max_completion_tokens pour la longueur de sortie ; stop pour les séquences d'arrêt ; seed pour la reproductibilité ; logprobs et top_logprobs pour le détail au niveau des tokens ; response_format et structured_outputs pour une sortie contrainte ; tools et tool_choice pour l'appel de fonctions ; et reasoning, reasoning_effort et include_reasoning pour les modèles qui exposent un comportement de raisonnement.

Une chose à garder à l'esprit est que le routeur sélectionne des modèles au hasard, donc le modèle exact derrière une requête peut varier d'un appel à l'autre. Cela rend le comportement moins prévisible que l'épinglage d'un modèle unique, et des paramètres tels que reasoning_effort ou les sorties structurées peuvent être honorés différemment selon le modèle choisi. Si vous avez besoin de sorties cohérentes, d'un comportement reproductible ou d'un ensemble de capacités spécifique, un modèle dédié est probablement plus adapté. Si vous voulez de l'inférence gratuite sur une gamme de tâches de texte et d'image et que vous pouvez accepter cette variabilité, openrouter/free est une option simple.