[摘 要]与其他学科一样，信息论也是从生产时间中总结出来的，反过来又服务于实践。从关于信息概念可知：信息论的研究对象是消息传输系统。由于消息中包含着信息，所以消息传输系统也是信息传输系统，简称通信系统。人们通过消息的传输和处理过程来研究信息传输和处理过程中的共同规律。信息论最初是在狭义的通信系统基础上总结提高而发展起来的，但理论一旦从实践中抽象出来，它的意义就远远超过了原来的范围。这里说的通信系统是广义的，不只是指电报、电话等一类的狭义的通信系统，而是指所有信息流通系统。如生物有机体的遗传系统、神经系统，甚至人类社会的管理系统，都属于广义的通信系统。这里，我们将对信息论进行概述。
　　[关键词]信息论
　　中图分类号：P58 文献标识码：A 文章编号：1009-914X（2018）48-0337-01
　　研究一个关键性很强的通信系统，其目的就是要找到传输系统过程的共同规律。一旦总结出这种共同规律，就可以用来指导通信系统的设计，使设计出来的各种通信系统具有更高的可靠性和有效性。所谓可靠性，就是要使发出的消息经过信道传输以后，尽可能准确的地不失真地再现在接收端。而所谓有效性高，就是经济效果好，即用尽可能少的设备来传送一定数量的信息。两者的结合就能使系统达到最优化。
　　1、信息论研究对象和内容
　　香农在1948年发表的文章的序言中有一句话：“通信的基本问题是要在某一端准确地或近似地再现从另一端选择出来的信息”。这句话恰如其分的表达了信息论的研究目的就是为了提高通信系统的可靠性和有效。关于信息论具体研究的内容，是一个有争议的问题。有人认为信息论知识概率论的一个分支，这是数学家的观点。当然，这种看法有一定的依据，因为香农信息论确实为概率论开拓了一个分支。但如果把信息论限制在数学范围内，这就太狭隘。也有认为信息论只是个熵理论，这是某些物理学家的看法。他们对“熵”特别感兴趣，熵的概念确实是香农信息论的基本概念之一，但信息论的全部概念比熵的概念广泛得多。
　　归纳起来，信息论研究的内容大致包括以下几个方面。
　　（1）通信的统计理论的研究
　　主要研究利用统计数学工具分析工具和信息传输的统计规律，其具体内容有：信息的度量、信息速率与熵、信道传输能力（信道容量）。
　　（2）信源的统计特性
　　主要包括：文字（如汉字）、字母（如英文）统计特性；语音的参数分析和统计特性；图片及活动图像（如此电视）的统计特性；其他信源的统计特性
　　（3）接收者接收器官的研究
　　主要包括：人的听觉和视觉器官的特性、人的大脑感受和记忆能力的模拟。这些问题的研究与生物学、生理学、心理学的研究紧密相关。
　　（4）编码理论与技术的研究
　　主要包括：有效性编码：用来提高信息传输效率，主要是针对信源的统计特性进行编码，所以有时也成为信源编码；抗干扰编码：用来提高信息传输的可靠性，主要针对信道统计特性进行编码，所以有时也成为信道编码。
　　（5）提高信息传输效率的研究
　　主要包括：功率的节约、频带的压缩、传输时間的缩短，即快速传输问题。
　　（6）抗干扰理论与技术的研究
　　主要包括：各种调制制度的抗干扰性、理想接收机的实践。
　　（7）噪声中信号检测理论与技术的研究
　　主要包括：信号检测的最佳准则、信号最佳检测的实践。
　　由上面的讨论可以看出，理论的研究内容极为广泛，是一门新兴的边缘学科，是当代信息科学的基本的和重要的理论基础。综上所述，信息论的研究范畴可以概括为以下三个方面的内容：
　　（1）信息论基础（狭义信息论）。主要研究信息的测度、信道容量以及信源和信道编码理论等问题。即为香农基本理论。
　　（2）一般信息论。主要研究通信的一般理论，除了香农理论以外，还包括噪声理论、信号滤波和预测、统计监测与估值理论、调制理论以及信息处理理论等。后一部分是以美国科学家维纳为代表，其中最有贡献的是维纳和前苏联科学家哥尔莫哥洛夫。所以主要是研究信息传输和处理的问题。
　　虽然维纳和香农等人都运用概率和统计数学的方法来研究准确地或近似地再现纤细的问题，都是为了使消息传送和接收最优化，但它们之间却有一个重要的区别。
　　维纳研究的重点是在接收端。研究一个信号（消息）如果在传输过程中被某些因素（如噪声、非线性失真等）所干扰时，在接收端怎样把它恢复、再现、从干扰中提取出来。在此基础上，创立了最佳线性过滤理论（维纳滤波器）、统计检测与估计理论，噪声理论等。
　　而香农研究的对象则是从信源到信宿之间的全过程，是收、发端联合最优的问题。其重点放在编码。他指出，只要在传输前后对消息进行适当的编码，就能保证在干扰存在下，最佳地传送和准确地或近似地再现消息。为此发展了信息测度理论、信道容量理论和编码理论等。
　　（3）广义信息论。广义信息论不仅包括上述两方面内容，而且包括所有与信息有关的领域，如心理学、遗传学、神经生理学、语言学、语义学甚至包括社会学中有关信息的问题。
　　2、信息论发展简史和现状
　　从20世纪40年代开始，信息理论与技术在人类历史长河中已经取得了长足发展，它已形成一门综合性的新兴学科，在人们面前展现出光辉灿烂的前景。现在信息论与技术不仅直接应用于通信、计算机和自动控制等领域。特别是通信技术与微电子、光电子、计算机技术等相结合，使现代通信技术的发展充满生机与活力，能够不受时间、空间、地点的限制，可以随时随地的进行各种的信息交换。此外，像模糊信息、相对信息、主观信息以及智能信息处理、自动化信息控制等大量崭新的课题的研究也相继展开，使信息理论面貌一新，并将大大促进信息科学的发展。
　　目前，在香农信息论方面，当前值得注意的动向是信息概念的深化；多址和多用户信道（双向信道、广播信道，多元连接型信道等）理论的发展；多重相关信源编码理论的发展；信息率失真理论的发展及其在数据压缩和图像处理的应用中的应用等问题。这些领域都是与20世纪80年代信息工程——空间通信、计算机网络、图像电子学等密切相关。值得注意的一个动向是，把香农信息论的某些成果用来解决检测与估计理论中的某些问题，特别是用来解决难度很大的非线性估计问题，如果用信息率失真理论作为基础来研究非线性估计问题。另一方面，用统计检测与估计理论来发展香农理论也已做了一些工作。看来今后这两个学派的互相渗透与互相促进，必定会带来新的结果。
　　总结：综上所述，信息论是一门应用概率论、随机过程、数理统计和近代代数的方法，来研究广义的信息传输、提取和处理系统中一般规律的工程科学；它的主要目的是提高信息系统的可靠性和有效性以便达到系统的最优化；它的主要内容（或分支）包括香农理论、编码理论、维纳理论、检测和估计理论、信号设计和处理理论、调制理论和随机噪声理论等。
　　参考文献：
　　[1]余成波. 信息论与编码. 重庆大学出版社.