Plus le système est autonome, plus une question compte : quelles actions exigent le oui d’un humain ? L’humain dans la boucle, ce n’est pas un aveu d’échec — c’est un pattern délibéré : laisser l’IA faire 95 % du travail, et placer un point de contrôle humain exactement là où les erreurs coûtent cher ou sont irréversibles.

L’analogie

La co-signature à la banque. Le conseiller prépare tout le dossier de prêt — analyse, scoring, paperasse. Mais au-delà d’un seuil, le directeur d’agence doit signer. Pas parce que le conseiller est mauvais : parce que certaines erreurs ne s’annulent pas, et qu’une deuxième paire d’yeux à cet endroit-là vaut son coût.

Le principe

flowchart LR
    AI["l'IA prépare le travail"] --> Q{action sensible ?}
    Q -->|routinière| E[exécute]
    Q -->|sensible| H["humain : valide / corrige / refuse"]
    H -->|validée| E
    H -->|refusée| S([stop])

Le travail de conception, c’est tracer la ligne de seuil. Bonnes règles de pouce :

• Réversible et pas cher → l’IA avance seule (rédiger, lire, analyser, lancer des tests).
• Irréversible ou tourné vers l’extérieur → point de contrôle (envoyer, publier, supprimer, payer, déployer).
• L’humain doit voir assez de contexte pour juger vraiment — un écran de validation que personne ne lit, c’est du théâtre, pas de la sûreté.

Un exemple concret

Un agent qui répond aux e-mails clients :

routine  → rédige la réponse, enregistre en brouillon   (auto)
remboursement < 50 € → envoie directement                (auto)
remboursement ≥ 50 € → rédige + notifie un responsable :
           « valider / corriger / refuser »              (humain)
client en colère détecté → escalade vers un humain       (humain)

95 % du flux passe sans friction ; les 5 % qui peuvent coûter de l’argent ou de la réputation attendent une signature.

Quand l’utiliser

• Les actions sont irréversibles (supprimer, envoyer, payer) ou publiques (publier, répondre).
• Les erreurs sont rares mais chères — l’humain revoit les exceptions, pas tout.
• La réglementation ou la confiance exigent une responsabilité : quelqu’un doit porter la décision.
• Combinez-le avec une boucle d’agent et des guardrails : la boucle travaille, les règles filtrent, l’humain arbitre.

Quand l’éviter

• Tout demande une validation → vous avez construit une boîte à suggestions lente, et l’humain tamponne par fatigue. Validez des catégories de risque, pas chaque étape.

Le piège classique

La fatigue du point de contrôle. Cinquante demandes de validation par jour et l’humain clique « oui » en pilote automatique — le filet de sécurité devient décoratif. Gardez les points de contrôle rares et signifiants, et faites que chacun montre exactement ce qui se passera si on approuve.