复杂的系统是如何失败的 ｜ Richard I. Cook

我们每个人都无时无刻生活在多个复杂系统中，本文详细分析了复杂系统失败的多种原因。无论你是系统中的决策者，还是系统中的参与者，这些原因都值得了解：
1. 复杂系统本质上就是风险系统，这是系统固有属性，永远不存在没有风险的系统；
2. 正因如此，我们需要强大且有效的系统防护机制；
3. 系统中多个小故障的叠加可能会导致防护机制失灵，进而引发系统性灾难；
4. 系统中的小故障会不断变化，无法完全消除；
5. 因此，会通过大量的冗余设计和人为干预来保证系统正常运行；
6. 本质上，系统是在降级模式下运行；
7. 但尽管如此，系统灾难依然会随时发生；
8. 系统的崩溃很难说有所谓的“根本原因”，但我们总是倾向找到一个承担责任的对象；
9. 探究原因的过程往往带有偏见；因为，系统中的操作者既是生产者也是防止故障的守护者；
10. 在系统正常运转时，大家的关注点是系统的生产，当发生灾难时，关注重心会立刻调整为防风险；
11. 在风险发生时，所有的决策都是一种不确定性赌博；化解了风险只是代表赌对了，但是大家往往会忽略成功背后的赌博行为；
12. 系统中的一线执行者承担着化模糊为确定的责任，而高层决策者往往会给出模糊性的目标；这种模糊有时候是刻意为之；
13. 为了化解潜在的风险，我们会尝试对系统进行改革，但是改革在化解旧风险时，也会引入新风险；
14. 安全是系统涌现的属性，不对系统进行整体调整，单独调整系统的零件很难解决系统的安全问题；