ln2复数 ln2为什么是常数 _生活百科

文章插图
文章插图
罗夫·兰道尔罗夫·兰道尔
在人类文明史上，有一些基本的理论概念。一旦搞清楚了这些基本概念之间的关系，科学技术乃至人类文明都会有一个飞跃。比如爱因斯坦搞清楚质量和能量的关系后，人类制造出原子弹，爱因斯坦成为科学史上的巨人。
那么，如果有人明确了信息与能量的关系，他会被历史铭记吗？答案是肯定的，这个人就是罗尔夫·兰道尔。
作者|张华
IBM的一篇论文
1927年，兰道尔出生在德国斯图加特的一个犹太家庭。1934年，兰道尔的父亲去世后，他的母亲带他去纽约生活。1945年，18岁的兰道尔从哈佛大学毕业后，在美国海军服役了18个月。服完兵役后，兰道尔回到哈佛大学攻读博士学位，并于1950年获得博士学位。
1952年，兰道尔加入IBM，成为一名上班族。他从未跌入低谷，生活似乎很平静。但在1961年，兰道尔在《IBM研究通讯》上发表了一篇著名的论文。这篇论文的题目是“计算中的不可逆性和产热” 。在这篇论文中，兰道尔指出了一个以前没有人发现的东西:经典计算机擦除一个经典比特信息所消耗的最小能量是kT ln2(k是玻尔兹曼常数，t是经典计算机所处的外部物理环境的温度) 。
兰道尔是怎么得出这个结论的？为了理解这个问题，我们需要更多地了解信息。
什么是信息？
信息论鼻祖香农认为，信息实际上是不确定性的消除。比如女生不确定男生喜不喜欢自己，男生对女生说:“今晚我请你看电影好吗？”这句话包含了信息，因为它在一定程度上消除了不确定性。
但是你如何衡量信息量呢？这需要一些数学知识。
1948年，香农提出了“信息熵”的概念，解决了信息的度量问题。信息熵的定义如下(其中pi是每种可能性的概率):
这个公式可以和物理学中著名的热力学熵公式相提并论:
这两个公式有两点不同:一是两者之间存在玻尔兹曼常数k的差异；其次，计算对数时，信息熵是以2为基数的，而热力学熵是以自然常数e为基数的。
我们可以用下面的例子来理解信息熵:考试中，有一道选择题，你对ABCD的四个选项都没有把握。那么，每个选项正确的概率是25% 。所以这个时候的信息熵可以通过上面提到的信息熵公式计算出来。
把4个pi都等于25%代入上式，就可以算出此时的信息熵等于2比特。
这时，一个人走进了考场。这个人就是你信任的张老师。张老师突然跟你说:“选项A和选项B肯定是错的，不要选。”张老师说的是给你信息。那么，老师的话里包含了多少信息呢？
现在对于你来说，可以排除选项AB，那么只剩下选项C和D 。对你来说，C和D各对的概率是50% 。
所以，这个时候，如果你把两个pi都代入等于50%，就可以得到等于1比特的信息熵。你会发现信息熵降低了。
所以，对你来说，张老师的话所包含的信息量是1比特，因为2-1=1(这里涉及到一个信任问题。如果你不相信张老师的话，那么张老师的话对你来说不包含信息) 。
从信息熵到热力学熵
用香农的信息熵，可以和物理学中的热力学熵联系起来。
这里就要用到高中数学中的变对数底数公式了。计算对数时，信息熵以2为基数，而热力学熵以自然常数为基数，统一用自然常数代替。两者相差一ln2 。
所以按照物理学的理解，3比特信息熵对应的热力学熵是3kln2 。这里k是玻尔兹曼常数，给出了信息熵和热力学熵之间的转换。公式是:
事实上，这是香农考虑信息熵的出发点。他通过玻尔兹曼的热力学熵类比了信息论中的熵。但信息论中不需要玻尔兹曼常数，所以他在定义信息熵时省略了玻尔兹曼常数。