Définition complète
Human-in-the-loop (HITL) désigne une approche ou l'humain intervient dans le cycle de fonctionnement d'un système IA, soit pour valider des decisions critiques, soit pour corriger les erreurs, soit pour améliorer le modèle. Contrairement a une automatisation complète, le HITL maintient un controle humain sur les étapes sensibles. C'est un equilibre entre l'efficacité de l'automatisation et la sécurité de la supervision. Exige par l'AI Act pour certaines applications a haut risque.
Questions fréquentes
Quand le human-in-the-loop est-il nécessaire ?
Le HITL est nécessaire quand : les decisions ont un impact significatif sur des personnes (credit, embauche, sante), les erreurs sont couteuses ou irreversibles, la règlementation l'exige (AI Act pour les systèmes a haut risque), le modèle n'est pas assez fiable pour la tache, ou pour construire la confiance lors des debuts d'un déploiement. L'objectif est de reduire progressivement l'intervention humaine avec la montee en maturite.
Comment implémenter un workflow human-in-the-loop ?
L'implementation HITL comprend : un seuil de confiance declenchant la revue humaine, une interface de validation pour les operateurs, une queue de taches a reviser, un feedback loop pour corriger le modèle, et des metriques de suivi (volume de revues, taux de correction). Les outils de labeling (Label Studio, Prodigy) ou les plateformes BPM intègrent souvent ces fonctionnalités.
Human-in-the-loop ou human-on-the-loop ?
Human-in-the-loop : l'humain valide chaque decision avant execution. Human-on-the-loop : le système agit automatiquement, l'humain supervise et peut intervenir si nécessaire. Human-out-of-the-loop : automatisation complète. Le choix depend du niveau de risque acceptable. Pour les chatbots, un modèle courant est : réponses automatiques pour les cas simples (on-the-loop), escalade humaine pour les cas complexes (in-the-loop).