OpenRouter Classifiers perce le secret des dépenses de vos agents IA

OpenRouter, la plateforme qui agrège des modèles d’IA générative, propose aux entreprises un outil pour éclairer des logs souvent illisibles. Lancée le 24 juillet en version bêta, la fonctionnalité « Classifiers » transforme des montagnes de données brutes en tableaux de bord exploitables. On peut enfin voir quel agent traite quel type de tâche, avec quel modèle, et à quel coût, sans modifier une ligne de code métier.

---

À retenir

• OpenRouter Classifiers ajoute des métadonnées structurées (étiquettes) à chaque appel à un modèle de langage, sans impacter la latence.
• L’utilisateur définit une taxonomie, avec jusqu’à huit dimensions, et un modèle tiers, tel que Gemini 3.5 Flash-Lite, classe les requêtes de façon asynchrone.
• Les résultats sont disponibles dans les logs de l’espace de travail, dans l’Activity Explorer et via une API dédiée, pour suivre l’activité par département, type de tâche ou niveau de complexité.
• Un taux d’échantillonnage (sampling) ajustable permet de maîtriser les coûts de classification ; des presets facilitent l’identification des dépenses logicielles capitalisables.
• La fonctionnalité est gratuite pendant la bêta, seuls les jetons consommés par le classifieur sont facturés (quelques centimes par million de jetons).

---

Quand l’observabilité de l’IA change d’échelle

Jusqu’ici, suivre l’activité réelle des dizaines d’agents déployés dans une organisation relevait de l’archéologie numérique. Les logs renfermaient toutes les informations, mais sans structure, impossible de les exploiter pour piloter les coûts ou garantir la conformité. Avec les Classifiers, OpenRouter change l’approche : au lieu d’explorer manuellement des flux bruts, on pose des balises sémantiques automatiques sur chaque génération. C’est un peu comme si, dans une chaîne logistique, chaque colis recevait une étiquette intelligente indiquant sa nature, sa destination et son poids financier.

Concrètement, un classifieur est un modèle de langage léger et spécialisé qui analyse le prompt et la réponse d’un autre modèle, puis attribue une étiquette selon une taxonomie que vous avez définie. L’opération s’effectue de manière asynchrone, en dehors du chemin critique de l’inférence. Autrement dit, vos utilisateurs ne ressentent aucun ralentissement, même si le classifieur inspecte 100 % des échanges.

Un classifieur asynchrone qui ne freine pas vos applications

L’architecture vise la production. Dès qu’une réponse est générée par votre modèle principal, le système la duplique silencieusement et l’envoie au modèle de classification. Par défaut, OpenRouter recommande Gemini 3.5 Flash-Lite pour sa vitesse et son coût dérisoire. L’étiquette produite, par exemple « Marketing », « Tâche simple », « Données client », est ensuite écrite dans vos logs d’espace de travail. L’utilisateur ne voit rien passer. Les équipes d’ingénierie peuvent activer la fonctionnalité sans craindre un impact sur leurs accords de niveau de service.

Configurer sa propre taxonomie en quatre étapes

Pour créer un classifieur, il suffit de quatre composants :

• Une taxonomie qui liste les valeurs possibles (par exemple : « Ventes », « RH », « Support » pour un classifieur départemental ; OpenRouter accepte jusqu’à huit dimensions par configuration).
• Un prompt qui donne au modèle classifieur les instructions pour interpréter chaque requête.
• Le choix du modèle de classification.
• Un taux d’échantillonnage (sampling rate) : si vous gérez des millions de requêtes par jour, classer 10 % des échanges peut suffire à obtenir une vision statistique fiable tout en divisant par dix le surcoût.

Une fois ces paramètres sauvegardés, chaque nouvelle génération qui traverse l’espace de travail OpenRouter est évaluée selon votre grille. L’approche permet une personnalisation poussée, sans codage, et s’adapte aussi bien à une jeune pousse qu’à un grand compte.

Maîtriser ses coûts : de la facture brute au compte de résultat

Sur un marché où le prix des jetons dicte les choix de modèles, les Classifiers agissent comme une loupe financière. L’objectif n’est plus seulement de connaître la dépense globale, mais d’en comprendre la genèse. Combien consomme l’assistant marketing comparé au chatbot technique ? Combien de requêtes pourraient être traitées par un modèle moins onéreux ?

Des presets malins pour attribuer les dépenses

OpenRouter propose plusieurs taxonomies prêtes à l’emploi. Le preset « Department » segmente les coûts par fonction, Ventes, Ingénierie, Juridique, etc., et sert à la refacturation interne. Le preset « Capitalizable Software Expense » permet de repérer les travaux d’IA qui entrent dans les dépenses de développement capitalisables selon les normes comptables. En France, cette lecture aide la direction financière à mieux évaluer l’actif immatériel lié à l’IA.

Autre exemple : la taxonomie « Task Type » distingue une simple reformulation de texte, une analyse de données ou une génération de code. Si vous découvrez que 40 % de vos appels au modèle le plus cher servent à corriger des fautes d’orthographe, vous pouvez déléguer ces tâches à un petit modèle et libérer des dizaines de milliers d’euros par an. Dans ce cas, la granularité se voit tout de suite sur la facture.

L’échantillonnage, l’arme anti gaspillage

Classifier chaque requête ajoute un coût, certes minime, mais qui peut gonfler avec le volume. Le taux d’échantillonnage sert ici de régulateur. Si vous traitez 10 millions d’appels par mois, analyser seulement 5 % d’entre eux donne déjà une image très précise des usages, l’équivalent d’un sondage bien construit. Pendant la bêta, le service de classification est gratuit ; seuls les jetons du modèle classifieur sont facturés. Pour Gemini 3.5 Flash-Lite, on parle de l’ordre de 0,05 € pour 1 million de jetons, ce qui reste négligeable pour la plupart des budgets. Avec le bon taux, vous payez seulement l’information dont vous avez besoin.

La conformité au cœur des échanges

L’autre promesse des Classifiers, c’est de jouer les chiens de garde discrets des bonnes pratiques. Quand les régulateurs s’intéressent de près aux usages de l’IA, il faut pouvoir montrer que les données clients restent dans le bon canal.

Sept niveaux pour jauger la complexité d’un agent

Le preset « Agent Complexity » va du simple appel d’outil à la résolution de problème de niveau expert. En parallèle, la taxonomie « Task Family » classe dix catégories : code, analyse, planification, recherche web, etc. Cette double lecture permet, par exemple, de voir qu’un agent commercial se met soudainement à générer du code Python, signe possible d’une mauvaise configuration ou d’une attaque. Les équipes de sécurité y gagnent un signal utile.

Auditer des mois d’historique en quelques clics

Autre fonctionnalité utile : les Classifiers peuvent être appliqués rétroactivement. Sélectionnez une période passée dans vos logs, déclenchez la classification, et vous obtiendrez en quelques minutes une cartographie de plusieurs trimestres d’utilisation. C’est un peu comme rénover le tableau de bord d’une voiture qui aurait roulé sans compteur pendant des mois. Les équipes de gouvernance peuvent ainsi valider une taxonomie avant de la déployer en production, ou préparer un audit sans attendre son déploiement.

Un déploiement express, du bac à sable au SI

Le déploiement est simple. Aucun redéploiement d’application, aucune migration de modèle n’est nécessaire. Tout se règle dans les paramètres de l’espace de travail OpenRouter, accessibles aux seuls administrateurs.

Activation en un geste et filtrage dans l’Activity Explorer

Dès qu’un classifieur est activé, les étiquettes s’affichent dans l’historique des requêtes. L’Activity Explorer, la console de suivi intégrée, permet alors de filtrer par tag, par nom d’agent ou par tranche horaire. En quelques secondes, vous visualisez la répartition des tâches de la semaine : 65 % de classification de documents, 20 % de réponses automatiques aux clients, 15 % de tests exploratoires. Ce niveau de transparence, autrefois réservé aux équipes data les plus outillées, est désormais à la portée de tout responsable métier.

Une porte ouverte vers vos propres dashboards

Pour les profils techniques, OpenRouter expose un endpoint API get_task_classifications qui renvoie une répartition statistique des familles de tâches. Combiné à des exports vers des outils comme Power BI ou Grafana, il permet d’alimenter les tableaux de bord CODIR avec des indicateurs fiables, sans requête SQL. Enfin, la compatibilité avec OpenTelemetry, via la fonction Broadcast d’OpenRouter, offre aux équipes DevOps une couche de supervision unifiée, qui relie les métriques d’infrastructure aux métadonnées d’usage.

En rendant les usages lisibles, les Classifiers donnent enfin un tableau de bord à ceux qui gèrent des agents IA à grande échelle. La donnée coulait jusqu’ici dans des canalisations opaques ; elle est désormais étiquetée et prête à nourrir les décisions de l’entreprise.