统计物理与资讯理论术语 熵


统计物理与资讯理论术语 熵

文章插图
熵(统计物理与资讯理论术语)【统计物理与资讯理论术语 熵】熵的概念是由德国物理学家克劳修斯于1865年所提出 。最初是用来描述“能量退化”的物质状态参数之一,在热力学中有广泛的套用 。但那时熵仅仅是一个可以通过热量改变来测定的物理量,其本质仍没有很好的解释,直到统计物理、资讯理论等一系列科学理论发展,熵的本质才逐渐被解释清楚,即,熵的本质是一个系统“内在的混乱程度” 。它在控制论、机率论、数论、天体物理、生命科学等领域都有重要套用,在不同的学科中也有引申出的更为具体的定义,按照数理思维从本质上说,这些具体的引申定义都是相互统一的,熵在这些领域都是十分重要的参量 。
基本介绍中文名:熵
外文名:entropy
提出人:克劳修斯
提出时间:1865年
熵概念的提出熵(希腊语:entropia 英语:entropy)的概念是由德国物理学家克劳修斯于1865年所提出 。在希腊语源中意为“内在”,即“一个系统内在性质的改变”,公式中一般记为S 。1923年,德国科学家普朗克(Plank)来中国讲学用到entropy这个词,胡刚复教授翻译时灵机一动,把“商”字加火旁来意译“entropy”这个字,创造了“熵”字,(读shāng),因为熵变dS是dQ除以T(温度)的商数 。克劳修斯将一个热力学系统中熵的改变定义为:在一个可逆过程中,输入热量相对于温度的变化率,即
统计物理与资讯理论术语 熵

文章插图
T为物质的热力学温度;dQ为热传导过程中的输入热量,下标“reversible”表示是“可逆过程” 。首先这里解释一下什幺是“可逆过程” 。热力学过程是指一个系统热力学性质的改变过程,例如温度、体积、压强、内能等 。当一个过程被界定为“可逆”时,即指改变过程在的每一个极短的步骤内,系统都保持非常接近平衡的状态,称为“準静态过程” 。否则,该过程即是“不可逆的” 。例如,在一个活塞管中的气体,其体积可以因为活塞移动而改变 。“可逆”体积改变是指在进行得极其慢的步骤中,气体的密度一直保持均匀 。“不可逆”体积改变即是指在快速的体积改变中,由于体积改变太快,可以形成密度梯度和压力波,并造成不稳定状态 。无耗散的“準静态过程”即是“可逆过程” 。若过程是不可逆的,则
统计物理与资讯理论术语 熵

文章插图
不可逆 。这里过程的“可逆性”涉及到一个和“熵”密切相关的物理原理,称为“熵增原理”,也就是“热力学第二定律” 。热力学第二定律有很多表述形式,例如:①热量总是从高温物体传到低温物体,不可能作相反的传递而不引起其他的变化;②功可以全部转化为热(例如物体间摩擦使一部分机械能不可逆地转变为热),但任何热机不能全部地,连续不断地把所接受的热量转变为功(即无法製造第二类永动机);③在孤立系统中,实际发生过程,总使整个系统的熵值趋于增大 。这些不同表述各有侧重,但彼此等价 。例如:在一个孤立系统中有两个温度不同的物体,热量dQ 由高温(T1)物体传至低温(T2)物体,高温物体的熵减少
统计物理与资讯理论术语 熵

文章插图
,低温物体的熵增加
统计物理与资讯理论术语 熵

文章插图
,把两个物体合起来当成一个系统来看,熵的变化是dS=dS2-dS1>0,即熵是增加的 。这说明了表述①和表述③的等价性 。物理解释1877年左右,玻尔兹曼提出熵的统计物理学解释 。他在一系列论文中证明了:系统的巨观物理性质,可以认为是所有可能微观状态的等机率统计平均值 。例如,考虑一个容器内的理想气体 。微观状态可以用每个气体原子的位置及动量予以表达 。所有可能的微观状态必须满足以下条件:(i)所有粒子的位置皆在容器的体积範围内;(ii)所有原子的动能总和等于该气体的总能量值 。玻尔兹曼提出一个系统的熵和所有可能微观状态的数目满足以下简单关係,