Gouvernance et contrôles

Page générée — ne pas éditer

Rendue au build par scripts/gen_doc_reference.py, depuis web/data/catalogue-export.json. Une modification manuelle serait perdue au build suivant.

Ces patterns empêchent les actions non autorisées, les choix implicites de modèle et les changements risqués sans simulation ni validation.

17 patterns dans cette famille.

GOV-01 — Policy engine et hooks

Intention. Prévenir les actions non autorisées avant qu'elles se produisent.

Problème. Les agents peuvent appeler outils, écrire, pousser ou supprimer au mauvais moment.

Solution. Intercepter les moments critiques avec règles allow, block ou escalate.

Maturité. Minimal

Contrôles. Pre-tool, Pre-write, Pre-release, Pre-dry-run, Incident-detected

À ne pas faire. Revue seulement après exécution.

Relations. Gouverné par ORC-02

GOV-02 — Dry-run avant action risquée

Intention. Simuler avant d'agir sur un système externe, coûteux ou irréversible.

Problème. Un agent peut produire un changement correct localement mais dangereux en contexte réel.

Solution. Décrire impact, permissions, coût, rollback, validation et critères de go/no-go.

Maturité. Contrôlé

Contrôles. Pre-dry-run, validation humaine, rollback, evidence pack

À ne pas faire. Déploiement, suppression ou appel externe sans simulation.

GOV-03 — Hook lifecycle progressif

Intention. Déployer les garde-fous sans casser le flux de travail.

Problème. Un hook nouveau peut bloquer trop large ou manquer des cas critiques.

Solution. Promouvoir les hooks par modes shadow, canary, puis enforced.

Maturité. Contrôlé

Contrôles. Registre des hooks, digest de validation, faux positifs, procédure de retrait

À ne pas faire. Activer un blocage global sans période d'observation.

Relations. Déploie GOV-08

GOV-04 — Autonomie gouvernée

Intention. Adapter le niveau d'autonomie de l'agent au risque, aux preuves et aux autorités de validation.

Problème. Une autonomie uniforme donne trop de pouvoir aux tâches risquées ou bloque inutilement les tâches simples.

Solution. Définir des niveaux d'autonomie par tâche : proposer, préparer, exécuter sous contrôle, exécuter automatiquement, ou bloquer.

Maturité. Minimal

Contrôles. Policy engine, validation authority, evidence pack, dry-run, incident stop

À ne pas faire. Autonomie maximale par défaut.

Relations. Alimenté par GOV-01 · Dépend de ORG-02 · À ne pas confondre avec GOV-10

GOV-05 — Agent privilege boundary

Intention. Empêcher qu'un agent hérite des permissions d'infrastructure du controller.

Problème. Un agent lancé avec les mêmes variables d'environnement que l'orchestrateur peut écrire des clés réservées, modifier l'état de convergence ou escalader ses droits.

Solution. Séparer les clés controller et agent, protéger les champs d'infrastructure et scrubber les tokens avant spawn de toute session agent.

Maturité. Production

Contrôles. Pre-spawn env scrub, liste de clés protégées, audit des écrituresconvergence./var.`,rotation de token controller`

À ne pas faire. Donner au worker le même token que le scheduler parce qu'ils tournent sur la même machine.

Relations. Renforce GOV-07 · À ne pas confondre avec GOV-10

GOV-06 — Merge lane fault classifier

Intention. Relancer seulement les échecs réellement transitoires et escalader les échecs durables.

Problème. Les workflows de review/merge peuvent rester bloqués par des retries infinis ou échouer trop tôt sur un timeout provider.

Solution. Classifier chaque échec en transient ou hard avant retry : rate limit, timeout et indisponibilité provider sont retryables ; violation durable, conflit logique ou verdict critique escaladent.

Maturité. Gouverné

Contrôles. Budget de retry, raison normalisée, journal de classification, escalade si seuil dépassé

À ne pas faire. Retry automatique sans type d'erreur ni limite.

Relations. Cousin de GOV-16

GOV-07 — Tool blast-radius limiter

Intention. Limiter l'impact maximal d'un appel outil avant exécution.

Problème. Un outil autorisé peut quand même toucher trop de fichiers, domaines, environnements, coûts ou données sensibles.

Solution. Déclarer pour chaque tool call un périmètre fichiers/réseau/shell/browser/MCP/coût/environnement, puis appliquer allow, dry-run, escalate ou block.

Maturité. Minimal

Contrôles. Pre-tool policy, allowlist, dry-run, budget, workspace isolation, evidence pack

À ne pas faire. Autoriser un outil globalement parce que son usage précédent était sûr.

Relations. Alimente GOV-01 · Utilisé par COG-04 · Gouverné par QUA-11 · Gouverné par COG-04

GOV-08 — Guardrail contract

Intention. Rendre les garde-fous explicites, testables et versionnés.

Problème. Les règles de sécurité, qualité ou conformité restent souvent implicites dans prompts, hooks ou habitudes.

Solution. Décrire chaque guardrail par type, scope, mode, point de déclenchement, décisions possibles, preuves et métriques.

Maturité. Contrôlé

Contrôles. Guardrail contract, hook lifecycle, faux positifs, incident si bypass ou dérive

À ne pas faire. Ajouter une règle bloquante sans owner, mode shadow/canary ni mesure d'impact.

Relations. Alimente GOV-01

GOV-09 — MCP Trust Gate

Intention. Autoriser les serveurs MCP comme capacités externes seulement après qualification.

Problème. Un MCP peut exposer réseau, fichiers, secrets ou actions métier sans frontière claire.

Solution. Enregistrer serveur, outils, variables, scopes, données accessibles, owner et mode de confiance avant usage.

Maturité. Contrôlé

Contrôles. Registre MCP, secret minimization, allowlist tool, sandbox, telemetry, blast-radius

À ne pas faire. Brancher un MCP parce qu'il fonctionne localement sans examiner ses permissions.

Relations. Renforce GOV-07 · Gouverné par RUN-15

GOV-10 — Policy by environment

Intention. Adapter l'autonomie et les outils au niveau de risque de l'environnement.

Problème. Les règles local, staging, prod et client peuvent être confondues ou appliquées uniformément.

Solution. Déclarer des profils d'environnement avec actions permises, dry-run requis, validation authority et secrets accessibles.

Maturité. Production

Contrôles. Environment policy, runtime provider, blast-radius, audit prod, emergency stop

À ne pas faire. Tester une action en staging puis l'exécuter en production avec le même niveau d'autonomie.

Relations. Alimente GOV-01 · Complète GOV-11 · À ne pas confondre avec GOV-04 · Gouverné par GOV-11

GOV-11 — Cluster action dry-run

Intention. Simuler toute action cluster ou infra avant effet réel.

Problème. Une commande Kubernetes ou cloud peut dégrader plusieurs workloads même si elle est syntaxiquement correcte.

Solution. Produire plan d'impact, ressources touchées, RBAC utilisé, diff attendu, rollback et preuve de policy avant apply.

Maturité. Production

Contrôles. Server-side dry-run, diff, admission policy, quota, service account minimal, rollback plan

À ne pas faire. Laisser un agent appliquer directement sur cluster parce que la CI est verte.

Relations. Spécialisé par GOV-02 · Gouverné par RUN-03

GOV-12 — Prompt Injection Firewall

Intention. Empêcher qu'un contenu externe devienne une instruction de contrôle.

Problème. Pages web, tickets, logs, docs ou sorties outil peuvent contenir des instructions adverses ou hors périmètre.

Solution. Séparer instructions de contrôle et contenu lu, marquer les sources non fiables, refuser toute instruction provenant d'un corpus externe.

Maturité. Contrôlé

Contrôles. Source trust label, pre-context-load, pre-tool, redaction, incident si tentative critique

À ne pas faire. Coller du contenu web ou ticket dans le prompt comme s'il était une instruction système.

Relations. Alimente GOV-01

GOV-13 — Remote Hygiene Guard

Intention. Vérifier la fraîcheur et la sûreté d'une source distante avant audit ou indexation.

Problème. Une analyse peut s'appuyer sur une branche obsolète, un remote inaccessible, des tags massifs ou un worktree sale.

Solution. Contrôler remote, branche, ref, tags, dirty state, pull/fetch safe et statut de fraîcheur avant de conclure.

Maturité. Gouverné

Contrôles. Remote audit, dirty-skip-pull, source freshness, quarantine si remote incohérent

À ne pas faire. Auditer ou indexer un dépôt sans savoir si la ref locale représente encore la source active.

Relations. Alimente KNO-06 · Précède KNO-10 · À ne pas confondre avec ORC-07

GOV-14 — Decision Council Gate

Intention. Escalader les décisions critiques vers un quorum contrôlé.

Problème. Une seule réponse modèle peut être insuffisante pour architecture, sécurité, production ou arbitrage irréversible.

Solution. Définir conseil, quorum, veto, budget, modèles/providers autorisés, synthèse des désaccords et verdict final.

Maturité. Gouverné

Contrôles. Council record, validation authority, cost cap, dissent log, evidence pack

À ne pas faire. Multiplier les modèles pour toute décision ou accepter un consensus non sourcé.

Relations. Renforcée par ORG-02 · Escalade vers ORG-02 · Renforce QUA-15

GOV-15 — Human escalation gate

Intention. Escalader vers un humain quand le risque, l'ambiguïté ou l'impact dépassent l'autonomie autorisée.

Problème. Un agent peut trancher seul une situation sensible, irréversible ou hors de son mandat.

Solution. Définir des déclencheurs d'escalade (risque élevé, ambiguïté critique, impact sensible, faible confiance) et un canal de décision humaine traçable.

Maturité. Contrôlé

Contrôles. Policy engine, validation authority, autonomie gouvernée, evidence pack, escalation record

À ne pas faire. Continuer en autonomie maximale faute de règle d'escalade explicite.

Relations. Escalade vers ORG-02 · À ne pas confondre avec GOV-14

GOV-16 — LLM error classifier

Intention. Classer les erreurs LLM avant toute reprise.

Problème. Un échec non qualifié déclenche des retries aveugles ou masque un défaut durable.

Solution. Distinguer erreur transitoire provider, sortie invalide, risque factuel, omission, conflit d'instruction et échec d'outil.

Maturité. Minimal

Contrôles. Failure classification contract, telemetry events, claim ledger, cost registry

À ne pas faire. Traiter toute erreur comme un simple « réessayer ».

Relations. Alimente GOV-17 · Cousin de GOV-06

GOV-17 — Recovery policy

Intention. Associer chaque classe d'erreur à une stratégie de reprise explicite.

Problème. Sans politique, la reprise est improvisée, coûteuse ou dangereuse.

Solution. Mapper erreur vers retry borné, fallback modèle, correction ciblée, rollback, escalade ou blocage, avec budget et preuves.

Maturité. Contrôlé

Contrôles. LLM error classifier, model router, idempotent tool action, compensation action, evidence pack

À ne pas faire. Réessayer indéfiniment sans changer de stratégie ni borne.

Relations. Dépend de GOV-16 · Déclenche RUN-13 · Déclenché par RUN-14