第572章信息的本质！物质or能量？信息熵！

第572章信息的本质！物质or能量？信息熵！开创信息论先河！

如果要问信息是什么？

恐怕很多人第一时间都非常疑惑。

“信息就是信息啊，还能是什么？”

信息是一个非常抽象的概念。

随便写一个字，一句话，或者是一篇文章，其中都包含了信息。

此外，哪怕不用文字也能传递信息。

比如华夏的烽火狼烟，就是靠烟尘传递军事情报，并没有使用任何文字信息。

所以，任何人都能知道信息的含义。

但是，如果要你给出信息的严格定义，并且如何去描述信息，恐怕大部分人就要抓瞎了。

这不仅是普通人的问题，也是科学家的问题。

真实历史上，信息学的诞生和发展与物理学有着紧密的联系。

20世纪初期，随着电子、通信等技术的蓬勃发展，当时的工程师们遇到了一个问题。

“如何表征信息的量呢？”

比如，你想要给远方的亲戚送点礼物。

你可以在信中说，盒子里有五种糕点，六种水果，还有一个小铜镜等。

这些数字都是精确的信息。

亲戚虽然无法亲眼见到你，但是他在看到这些信息后，就能自己核对。

这看起来是一个非常简单的问题。

但是，通信工程师们却为此犯了愁。

他们需要先把这些文字信息编码成电子信息。

然后，再通过翻译、压缩、控制等等手段，使其能够在电线中以光速传播。

在这个过程中，不管是机器的计算要求，还是业务的收费要求，都需要清晰地知道信息的量到底有多少。

那么“五种糕点”和“六种芒果”哪个表述的信息量更大呢？

或者，再来个更极端的例子，一张只有5个字的白纸，和一张只有500字的白纸，哪个的信息量更大？

早期电报刚开始运营时，收费是直接按照所发字的数量来收。

五个字比一个字贵。

这就会引起疑问。

“难道发五个字比一个字就更费电吗？”

这其中就涉及到了信息量的问题。

这个问题在普通人看起来十分简单，但如果想要从科学上进行严格证明那就非常困难了。

后来，随着计算机理论的出现，科学家们对于信息定量的需求越来越迫切。

于是，信息论诞生了。

它是专门研究信息的理论。

真实历史上，1948年，美国数学家、密码学家香农发表了一篇震惊学界的论文：《通信的数学理论》。

在这篇论文里，香农首次提出了“信息熵”的概念。

他借鉴了热力学中关于熵的概念，把信息中排除了冗余信息后的平均信息量称为“信息熵”。

在热力学中，熵表示微观系统可能的状态数量，或者是混乱程度。

而信息熵表示各个可能事件发生的概率。

在论文中，香农给出了信息熵的数学表达公式：h(x)=-∑plogp（p表示事件发生的概率）。

至此，对于信息的量化度量问题得到解决，科学家们以后就可以用定量的方式来研究信息。

这时，可以给信息下一个较为严格的定义：

“信息是用来消除不确定性的东西，不确定性越大，信息量越大。”

但是这里要注意一个问题。

信息熵是建立在计算机通信、01编码等基础上的严格数学概念。

它是专门为了计算机而诞生的一门理论科学。

在具体操作和计算层面上，信息熵可以理解为存储信息所需的最小比特数。

而真实世界的信息熵计算是非常非常复杂的，甚至根本没有办法计算。

一般都是通过信息熵的变化量来解决问题。

此外，同样的一句话，可能不同的人从这句话中得到的信息量都是不一样的。