Autorité humaine
L’automatisation garde un humain dans la boucle
Un système d’automatisation utile ne demande pas une approbation pour tout. Il doit en revanche savoir identifier les décisions qui exigent une responsabilité humaine explicite : une contradiction, une action sensible, une règle inhabituelle ou un manque de preuves.
État de la capacité
Revue humaine dans le parcours d’audit privé
Un Human Gate existe dans le parcours d’audit privé. Son extension à une autorisation générique d’actions métier fait partie de l’architecture cible et ne doit pas être confondue avec une capacité déjà ouverte au public.
Autorité humaine
Le but n’est pas de recréer un goulot d’étranglement
Une validation humaine systématique annule vite le bénéfice de l’automatisation. À l’inverse, une automatisation sans seuil ni responsable explicite transforme un choix sensible en comportement implicite du système.
Le Human Gate vise un compromis : les cas prévisibles et peu risqués suivent une politique définie ; les cas ambigus, engageants ou contradictoires sont mis en attente pour un humain habilité.
- Contradiction entre plusieurs sources ou règles
- Action ayant un effet externe ou un impact métier sensible
- Donnée insuffisante pour une décision fiable
- Exception à une politique normalement appliquée
Autorité humaine
Une décision humaine doit être contextualisée
Une approbation utile n’est pas un simple bouton « oui ». La personne doit savoir ce qu’elle approuve, pourquoi le système a demandé une intervention, quelles preuves sont disponibles et quelles limites subsistent.
Le dossier associé à la décision doit lier le contexte, les éléments observés, la règle concernée, le choix humain et la suite donnée. L’objectif n’est pas de transférer une responsabilité abstraite à un utilisateur, mais de rendre une décision vérifiable.
Autorité humaine
Humain dans la boucle ne signifie pas humain seul
Les agents et les automatisations peuvent préparer, rapprocher, signaler ou proposer. Ils ne doivent pas se valider eux-mêmes sur une décision critique. L’humain reste l’autorité de dernier ressort lorsqu’une politique l’exige.
Cette séparation aide aussi à expliquer le rôle de chacun : l’outil applique une méthode et conserve des traces ; le responsable arbitre les cas qui nécessitent du jugement.
Questions fréquentes
Clarifier le périmètre avant de promettre un contrôle.
Le Human Gate bloque-t-il toutes les automatisations ?
Non. Il est destiné aux décisions définies comme sensibles, ambiguës ou insuffisamment prouvées. Le seuil dépend de la politique et du contexte.
Une validation humaine peut-elle être rejouée pour une autre action ?
La cible DUBSAR est une autorisation liée à un contexte précis, limitée dans le temps et non réutilisable. Cette propriété reste à prouver dans les futurs lots d’action métier.
À lire ensuite
Approfondir la gouvernance des usages IA.
Le portail DUBSAR est en cours de développement ; la méthode et les limites sont présentées publiquement.