Preuves et décisions
Rendre une décision IA explicable et relisible
Un journal technique peut dire qu’un appel a eu lieu. Il ne dit pas nécessairement pourquoi une route a été autorisée, pourquoi une action a été refusée, ni quelle personne a tranché une exception. La preuve doit répondre à ces questions sans devenir un entrepôt indiscriminé de données.
État de la capacité
Principe de preuve et parcours d’audit
Le parcours d’audit DUBSAR s’appuie sur des constats reliés à leurs sources et à leurs limites. Le registre de gouvernance continue décrit ici est une direction produit en préparation.
Preuves et décisions
Conserver les éléments qui expliquent la décision
Une preuve utile relie une décision à son contexte : identité du système ou du workflow, version de règle, route concernée, motif, moment de la décision et références disponibles. Elle doit aussi signaler ce qui manque ou ce qui n’a pas été couvert.
Cette approche évite deux excès : prétendre savoir sans preuve, ou collecter tous les prompts, réponses et secrets sans justification. La traçabilité vise la compréhension et la responsabilité, pas l’accumulation de données sensibles.
- Décision appliquée et motif associé
- Référence de politique ou de règle
- Identité, route et version concernées
- Limites de couverture et informations manquantes
- Validation humaine lorsqu’elle a été requise
Preuves et décisions
Le replay doit expliquer, pas réémettre
Relire un dossier n’implique pas de refaire l’action qui l’a produit. Le replay de gouvernance vise à comprendre la suite des faits, les règles et la décision, sans réémettre un e-mail, une modification métier ou un appel fournisseur.
Cette distinction est importante pour les incidents et les contrôles : une organisation doit pouvoir analyser une décision passée sans créer un nouvel effet de bord.
Preuves et décisions
Les limites font partie du rapport
Une couverture incomplète, une source inaccessible ou une contradiction ne sont pas des détails à cacher. Ils changent la portée d’une conclusion et peuvent eux-mêmes justifier une validation humaine ou un refus prudent.
DUBSAR est conçu pour rendre ces limites visibles dans le dossier de décision plutôt que de produire une réponse définitive là où les informations sont insuffisantes.
Questions fréquentes
Clarifier le périmètre avant de promettre un contrôle.
Faut-il conserver tous les prompts et toutes les réponses pour être traçable ?
Non. La traçabilité doit conserver les références et éléments nécessaires à la compréhension de la décision, tout en évitant la conservation non justifiée de données métier ou sensibles.
Un rapport DUBSAR prouve-t-il que tout a été contrôlé ?
Non. Un rapport doit préciser les sources, le périmètre, les limites et les éléments non observés. Une preuve bornée n’est pas une garantie globale.
À lire ensuite
Approfondir la gouvernance des usages IA.
Le portail DUBSAR est en cours de développement ; la méthode et les limites sont présentées publiquement.