Toutes les demandes ne méritent pas le même traitement. Une question de remboursement, un rapport de bug et un « raconte-moi une blague » ne devraient pas tomber sur le même prompt, les mêmes outils, ni même le même modèle. Le routage place un classificateur à l’entrée, puis aiguille chaque demande vers un parcours conçu pour elle.
L’analogie
L’accueil de l’hôpital. La réceptionniste ne soigne personne — elle pose deux questions et vous envoie au bon service : une entorse part en radiologie, une rougeur en dermatologie. Dix secondes de triage épargnent une heure de soins mal aiguillés.
Le principe
flowchart LR
IN([demande]) --> R["LLM : classe"]
R -->|facturation| A["parcours A : remboursements"]
R -->|technique| B["parcours B : support technique"]
R -->|autre| C["parcours C : bavardage"]
- Le routeur est un appel rapide et pas cher (voire un classificateur non-LLM) : « quelle catégorie ? »
- Chaque parcours est optimisé séparément : son prompt, ses outils, son modèle — un petit modèle pour le bavardage, un costaud pour les questions juridiques.
- Les parcours ne se polluent pas : améliorer le prompt remboursement ne peut pas casser le support technique.
Un exemple concret
Une porte d’entrée de support client :
routeur(msg) → "facturation" | "technique" | "autre"
facturation → prompt avec politique de remboursement + outils factures
technique → prompt avec docs produit + outils de diagnostic
autre → petit modèle, comportement cordial standard
Chaque branche reste courte et précise, au lieu d’un prompt qui essaie d’être trois experts à la fois.
Quand l’utiliser
- Les entrées tombent dans des catégories distinctes, traitées vraiment différemment.
- Vous voulez maîtriser les coûts : envoyez les 80 % faciles vers un modèle pas cher, réservez le coûteux aux 20 % durs.
- La séparation des responsabilités compte — des prompts séparés battent un prompt à quinze clauses « si l’utilisateur demande X ».
Quand l’éviter
- Les catégories se chevauchent, ou une demande exige plusieurs compétences à la fois → regardez orchestrateur-ouvriers.
- Il n’existe qu’un seul vrai parcours : un routeur devant une branche unique, c’est juste de la latence en plus.
Le piège classique
Le mauvais aiguillage silencieux. Si le classificateur se trompe, le spécialiste répond avec assurance à la mauvaise question. Donnez au routeur une sortie « incertain » qui retombe sur un parcours généraliste ou un humain — une réceptionniste qui avoue « je ne sais pas, je vérifie » vaut mieux qu’une qui devine.