熵是什么？—— 衡量人类认知局限的标尺 | Zack Savitsky

这篇文章的英文标题叫《What Is Entropy? A Measure of Just How Little We Really Know. | Quanta Magazine》，用“熵”来探讨对未知、对混乱、对不确定性的新理解。
说到热力学第二定律大家可能都不陌生：熵的不可逆增长似乎是物理世界一个不可摆脱的“必然趋势”。
但本文将我对“熵”的理解扩展到了更多层次。
读完以后，我发现它已远超“热量、能量”的范畴，本文将熵扩展到“信息”“统计力学”“量子信息”等多个层面。
• 熵与“无知” 
在现代信息论视角下，熵常常被视为对未知或不确定性的度量。我们无法精确知晓系统中所有粒子的运动细节，因此只能以统计概率描述宏观行为。
对社会科学而言，每一个复杂系统也可能被理解为一种“信息熵”的体现：我们对它的所有细节一无所知，只能进行概括与粗略的预测。因此，熵可以说是对“我们到底有多不了解系统”的度量。
• 观察者与“测量” 
更微妙之处在于，观测者的知识或测量方式，会影响对熵的估计。比如，有些熵是“主观熵”（基于观测者对系统的已知与未知），也有“客观熵”（系统本身的复杂度）。
然而，一旦观察者动手测量，就会以某种方式“改变系统”或改变对系统的描述范围。这与索罗斯强调的“反身性”在社会层面的观点有某种呼应：我们对系统进行测量或思考时，往往也重新定义了系统本身的“状态”与“复杂度”。
因此，这篇文章也在强调同一个要点：我们的视角决定了我们认知的结果，或者说我们的不确定性程度。 换成熵的语言即，当一个观测者无法充分获取信息，熵就显得更大；换个角度或换个方法，熵值或许就会改变。
DS 曰：熵从不客观存在，它只是观测者与未知博弈时的投影。