Control Design
Nous concevons l'automatisation sans perdre le contrôle.
Control Design fixe les limites du système au niveau décisionnel : ce qui s'exécute, ce qui reste une suggestion et ce qui attend validation.
Principe de design
Le contrôle n'est pas un frein.
Niveau de décision
Matrice de contrôle
| Niveau | Comportement système | Terrain adapté |
|---|---|---|
| Auto-run | Exécute directement. | Risque faible, règle claire, action réversible |
| Suggest | Prépare une recommandation. | Contexte clair, jugement final humain |
| Approve | N'avance pas sans validation. | Décision financière, légale ou client |
| Audit | Laisse une trace vérifiable. | Qualité, conformité ou litige possible |
Conditions de design
Dette de contrôle
Un mauvais niveau de contrôle coûte cher plus tard.
Si le système est rapide mais non fiable, les utilisateurs reviennent à l'ancien flux. S'il ralentit tout, il crée une nouvelle attente.- Rollback
- Séparation des rôles
- Raison enregistrée
- Alerte d'erreur silencieuse
Décision de contrôle
Principes
Décision visible
Le système laisse une raison compréhensible.
Rollback
Les actions critiques gardent correction et annulation.
Rôles séparés
Faire, valider et contrôler ne se confondent pas.
Pas d'erreur silencieuse
L'incertitude est portée à la bonne personne.
Sorties du Control Design
Limite système, décision humaine et besoin d'audit deviennent explicites.
Control Matrix
Niveaux d'automatisation, suggestion, validation et log par étape.
Approval Paths
Chemins pour les cas nécessitant décision humaine.
Audit Requirements
Comment les actions critiques restent traçables.
Fallback Rules
Ce que le système ne fera pas en cas d'incertitude.
Étape suivante
AI Execution Layer
Une fois le contrôle clair, AI Execution Layer relie modèle, outils, données et logs dans ces limites.