信息到底是什么信息是什么牛顿的激光烈焰剑理论( 二 ) _比特

如果你更聪明，你会采取二分法，
你可以先问：答案在 A 和 B 之间吗？
如果对方回答：是。
那你只需要在A和B之间再问一遍：答案是A吗？
如果对方回答：是。
那么你已经确定结果是A，整个过程你只用了2位信息。
同样，如果你先问：答案是在 A 和 B 之间吗？
如果对方回答：没有。
其实排除了A和B，答案在C和D中，所以你只需要再问一遍：答案是C吗？
如果对方回答：没有。
那么你已经确定结果是D，整个过程还是用了2位信息。
你甚至可以把比特想象成人民币，??假设1比特是一美元，你每次做出选择，就会花费一美元。如果你想解决抛一枚理想硬币的问题，你只需要一美元就可以了。并选择四个中的一个，您需要 2 美元。
所以，你现在应该明白了吧？信息实际上是用来消除不确定性的。但问题又来了，消除了哪些不确定性？
答案是：信息来源。
这种信息来源实际上是指抛硬币的事件本身，它本质上是不确定的，可能是正面或反面。信息源的不确定性称为信息熵。所以，我们可以知道
信息用于消除信息熵（不确定性）。如果抛硬币的概率为 50%，则不确定性最高，信息熵最大。反之，如果单挑的概率越高，那么系统的不确定性实际上就越小，信息熵也就越小。
因此，信息量本身实际上就是信息源的信息熵。
信息熵
所以，只要能计算出信息熵，就能计算出具体的信息量吗？
究竟是如何计算的？事实上，香农在热力学中找到了灵感。在热力学中，熵用来表示：
系统的无序状态（不确定性）。
举个最常见的例子，如果你往水里滴一点墨水，墨水会和水融为一体，整个杯子的无序状态就会增加（因为它变得混乱了），这里我们可以把水放进去杯子作为一个系统。
在物理学中，测量一个系统的混沌度实际上可以通过计算整个系统的状态数来建立。
可能性越多，不确定性就越大；当状态数保持不变时，如果每个状态的概率相同，则不确定性很大；
因此，科学家们给出了计算系统状态数的公式（不看也没关系）：
事实上，信息熵实际上代表了一个系统（信息源）的不确定性（信息熵）。
受到热力学的启发，香农还给出了一个类似的计算信息熵（信息量）的公式：

文章插图
具体用途是什么？让我们回到刚才抛硬币的例子：
抛一枚理想硬币，信息熵为log2(2/1) = 1 bit;
翻转两个理想硬币，信息熵为 log2(4/1) = 2 bits.
自从引入信息论以来，科学家们一直在思考一个问题，世界是什么？我们都知道物质是由原子构成的，那么世界是由原子构成的吗？
但我们也需要知道，原子的排列构成了世界，排列本身就是信息，所以原子是通过交换“比特”来排列的，也就是说，在某种程度上，这个世界就是一个比特。
【信息到底是什么信息是什么牛顿的激光烈焰剑理论】郑重声明：本文版权归原作者所有，转载文章仅出于传播更多信息之目的。如作者信息标注有误，请尽快联系我们修改或删除，谢谢。

信息到底是什么 信息是什么牛顿的激光烈焰剑理论( 二 )

信息到底是什么信息是什么牛顿的激光烈焰剑理论( 二 )