论文部分内容阅读
在解决实际问题中,Boltzmann-Gibbs熵得到了广泛的应用,然而,由于Boltzmann熵的局限性,各种各样的广义熵开始得到人们的密切关注。Tsallis熵正是基于Boltzmann理论而产生的,并成功的运用在物理、化学、生物、医学、经济、地球物理等的各个领域。本文从Tsallis熵和Tsallis相对熵的基本定义和性质出发,研究并得出了Tsallis熵及Tsallis相对熵在连续性方面的一些结论。 本文先从熵的背景出发,介绍了熵及一些特殊的广义熵,并给出了Rényi熵的一个具体应用,即利用Rényi熵证明著名的Hadamard不等式。然后,根据前人对Tsallis熵的研究,介绍了Tsallis的一些实际应用。 本文的第二部分,首先介绍了Tsallis熵和Tsallis相对熵的一些性质,这些性质将在后续的研究中有所应用,并且通过Rényi熵和Tsallis熵之间的等式关系,从Rényi熵推得了Tsallis熵的另一些性质。其次,根据Tsallis相对熵和指数分布族之间的关系,推导出了一些常见的连续分布(包括单变量及多变量的情形)的Tsallis相对熵的表达式。这些结果总结在本文的表2-2中。这些结论在统计和信息论中有广泛的应用。 之后,本文介绍了两个分布的对数似然函数比与Tsallis熵及Tsallis相对熵之间的关系。接下来,本文研究了离散过程的Tsallis熵率,并以平稳Gaussian过程为例,计算得到平稳Gaussian信源的Tsallis信息率,并说明当参数q趋于1时,即为Shannon熵率。 本文的最后,我们介绍了连续过程的Shannon熵和Tsallis熵,并以Brownian运动为例,利用随机过程的K-L展开,得出了Brownian运动的Shannon熵和Tsallis熵均为无穷的结论。