Exemples de How Complex System Fail
(how.complexsystems.fail)https://how.complexsystems.fail/
https://www.youtube.com/watch?v=2S0k12uZR14
Dans How Complex System Fail, Richard Cook traite de 18 causes d’échec des systèmes complexes et des moyens de réduire ces échecs.
1. Les systèmes complexes sont intrinsèquement des systèmes dangereux.
2. Les systèmes complexes se défendent avec succès contre l’échec.
À mesure que des incidents surviennent, plusieurs couches de défense sont mises en place. Ces défenses incluent des composants techniques (sauvegardes, fonctionnalités de sécurité du système, etc.), des éléments humains (formation, connaissances), ainsi que l’organisation et les institutions.
3. Une catastrophe nécessite plusieurs défaillances. - Un SPoF ne suffit pas.
Les pannes majeures naissent de l’accumulation de petits incidents.
4. Les systèmes complexes contiennent en leur sein des combinaisons d’erreurs latentes et évolutives.
5. Les systèmes complexes fonctionnent en mode de performance dégradée.
6. La catastrophe est toujours imminente.
7. Après un incident, la Root Cause est fondamentalement erronée.
8. L’évaluation des performances après un incident est biaisée a posteriori.
9. L’exploitation a deux rôles. (producteur, défenseur face aux incidents)
10. Toute action d’un praticien est un pari.
Après un incident, l’échec semble souvent inévitable et l’action du praticien peut apparaître comme une erreur. Pourtant, toute action d’un praticien est en réalité un pari, c’est-à-dire une action entreprise face à un résultat incertain. Le degré d’incertitude peut varier. Le fait qu’une action relevait d’un pari n’apparaît qu’après l’incident. En général, l’analyse a posteriori considère ces paris comme de mauvais paris. Mais les résultats positifs sont eux aussi le produit d’un pari.
11. L’action dans les situations les plus difficiles permet de résoudre l’ambiguïté.
12. Les praticiens sont l’élément adaptable des systèmes complexes.
13. L’expertise humaine sur les systèmes complexes évolue en permanence.
14. Le changement apporte de nouvelles formes de défaillance.
15. La vision de la « cause » limite l’efficacité des défenses contre les événements futurs.
16. La sécurité n’est pas un composant, mais une propriété du système.
La sécurité est une propriété du système. L’état de sécurité de tout système évolue en permanence. Une gestion continue et systématique des risques est nécessaire.
1 commentaires
Peut-être parce que je me prépare en ce moment au chaos engineering, mais les textes ci-dessous m'ont marqué.
Une catastrophe est toujours imminente.
Pour réaliser des opérations sans échec, il faut avoir fait l'expérience de l'échec.