熵的单位是什么 _定律「问人人知识网」

文章插图
比特，但也用Sh、nat、Hart计量，取决于定义用到对数的底。
熵（英语：entropy）是接收的每条消息中包含的信息的平均量，又被称为信息熵、信源熵、平均自信息量。这里，“消息”代表来自分布或数据流中的事件、样本或特征。（熵最好理解为不确定性的量度而不是确定性的量度，因为越随机的信源的熵越大）
来自信源的另一个特征是样本的概率分布。这里的想法是，比较不可能发生的事情，当它发生了，会提供更多的信息。
由于一些其他的原因，把信息（熵）定义为概率分布的对数的相反数是有道理的。事件的概率分布和每个事件的信息量构成了一个随机变量，这个随机变量的均值（即期望）就是这个分布产生的信息量的平均值（即熵）。熵的单位通常为比特，但也用Sh、nat、Hart计量，取决于定义用到对数的底。
采用概率分布的对数作为信息的量度的原因是其可加性。例如，投掷一次硬币提供了1 Sh的信息，而掷m次就为m位。更一般地，你需要用log2(n)位来表示一个可以取n个值的变量。
熵的计算
如果有一枚理想的硬币，其出现正面和反面的机会相等，则抛硬币事件的熵等于其能够达到的最大值。我们无法知道下一个硬币抛掷的结果是什么，因此每一次抛硬币都是不可预测的。
因此，使用一枚正常硬币进行若干次抛掷，这个事件的熵是一比特，因为结果不外乎两个——正面或者反面，可以表示为0, 1编码，而且两个结果彼此之间相互独立。若进行n次独立实验，则熵为n，因为可以用长度为n的比特流表示。
但是如果一枚硬币的两面完全相同，那个这个系列抛硬币事件的熵等于零，因为结果能被准确预测。现实世界里，我们收集到的数据的熵介于上面两种情况之间。
熵会一直增加，所以水蒸气会变成雨落下来。
1、熵，热力学中表征物质状态的参量，用符号S表示，其物理意义是体系混乱程度的度量。
熵最初是根据热力学第二定律引出的一个反映自发过程不可逆性的物质状态参量。热力学第二定律是根据大量观察结果总结出来的规律：在孤立系统中，体系与环境没有能量交换，体系总是自发地像混乱度增大的方向变化，总使整个系统的熵值增大，此即熵增原理。摩擦使一部分机械能不可逆地转变为热，使熵增加，所以说整个宇宙可以看作一个孤立系统，是朝着熵增加的方向演变的。
2、从一个自发进行的过程来考察：热量Q 由高温(T1)物体传至低温(T2)物体，高温物体的熵减少dS1=dQ/T1，低温物体的熵增加dS2=dQ/T2，把两个物体合起来当成一个系统来看，熵的变化是dS=dS2－dS1>0，即熵是增加的。