论文部分内容阅读
摘要：介绍了信息论与编码的基本理论体系，通过分析信息论与编码课程的教学特点，结合实际教学经验，提出了提高教学质量的几点体会。
关键词：信息论；编码理论；教学实践
中图分类号：G642文献标识码：A文章编号：1009-3044(2008)33-1442-02
Exploration and Practice of Information Theory and Coding Teaching Reform
LI Tao
(Nanjing University of Information Science and Technology, Nanjing 210044, China)
Abstract: This paper introduces the basic framework of information theory and coding, and analyzes the teaching features of the course. Combined with the real teaching experience, several experiences to improve the quality of teaching are presented.
Key words: information theory; coding theory; teaching practice
1 引言
众所周知，人类社会目前处于信息时代，以计算机技术、微电子技术以及通信技术为基础的信息技术在各个领域都有广泛的应用，并积极推动了社会的进步和经济的发展。为此，人们加大了对信息的表示、存储、处理等相关方面的研究力度，并进一步促进了相关专业的发展和应用。同时，世界各国大学在本科阶段普遍开设或增设与信息有关的课程，培养适合信息时代发展需要的人才。我国高等院校的发展与时俱进，也纷纷开设与信息相关课程。特别是与信息技术相关的学科专业，如通信工程专业、信息工程专业、信息与计算科学专业等，信息论已经成为一门重要的专业基础课程。因而如何有效、合理地进行信息论与编码教学成为各高校信息论教师所面临的现实问题。
2 信息论与编码的基本理论体系
1948年，美国科学家克劳德·香农（C.E. Shannon）在《Bell System Technical Journal》上发表了《A Mathematical Theory of Communication》一文。在文中，他用概率测度和数理统计的方法系统地讨论了通信的基本问题，进而得出了几个重要而带有普遍意义的结论，并由此奠定了现代信息论的基础。香农理论的核心是：揭示了在通信系统中采用适当的编码后能够实现高效率和高可靠地传输信息，并得出了信源编码定理和信道编码定理。从数学观点看，这些定理是最优编码的存在定理。但从工程观点看，这些定理不是结构性的，不能从定理的结果直接得出实现最优编码的具体方法。然而，它们给出了编码的性能极限，在理论上阐明了通信系统中各种因素的相互关系，为寻找最佳通信系统提供了重要的理论依据。
一般认为，信息论的研究内容和范围三种：
1) 狭义信息论，也称经典信息论。它主要研究信息的测度、信道容量以及信源和信道编码理论等问题。这部分内容是信息论的基础理论，又称香农基本理论。
2) 一般信息论，主要是研究信息传输和处理问题。除了香农理论以外，还包括噪声理论、信号滤波和预测、统计检测与估计理论、调制理论、信息处理理论以及保密理论等。后一部分内容以美国科学家维纳（N.Wiener）为代表，其中最有贡献的是维纳和苏联科学家柯尔莫哥洛夫。
3) 广义信息论。广义信息论不仅包括上述两方面的内容，而且包括所有与信息有关的自然和社会领域，如模式识别、计算机翻译、心理学、遗传学、神经生理学、语言学、语义学甚至包括社会学中有关信息的问题，是新兴的信息科学理论。
3 信息论与编码课程的教学特点
学习和掌握信息论越来越受到人们的重视，了解相关理论与知识成为一种必需。为此，很多高校都在相关专业中开设了信息论与编码课程，作为本科生、研究生的必修或选修的课程。通过上面的分析可以看出，信息论为编码提供理论基础，编码在信息论的基础上指导工程实践，二者联系非常紧密，理论上前后相承。因而在课程开设上，一般可以将二者放在前后相邻的两个学期，安装在本科第四学期和第五学期；也有部分院校将二者合在一起在一个学期讲授，安排在本科第五学期完成。我校结合相关信息专业的具体特点和要求，采用了第二种教学计划。
信息论课程中运用了大量的数学知识，覆盖了理工科学生所学的大部分数学知识，主要包括高等数学、线性代数、离散数学、概率论与数理统计、随机过程以及数值分析等。这些知识本身就比较复杂、抽象，同时还涉及到通信方面一些基础专业知识，而学生一般在这些方面恰恰是薄弱环节，因此在学习的过程中显得非常抽象、枯燥，接受起来比较困难。容易使学生形成畏难情绪，导致学生失去学习兴趣。此外，由于信息论与编码所阐述的内容基本都是基础理论，学生在学习的过程中，会下意识地将信息论与编码同其它专业课进行横向比较，发现信息论学习好坏对别的专业课似乎影响不大；也有学生认为信息论不像有些专业课那样对他们找工作起到很重要的作用。在学生眼里信息论纯粹是理论，是搞科学研究人员学习的内容，没能认识到信息论的重要价值。这势必会影响到学生正常的学习态度，从而影响整个课程的教学效果。
根据我校确立的“厚基础、宽口径、强能力、高素质”培养模式及原则，结合复合型人才培养的要求，我们在信息论与编码课程教学中，确立了如下总体原则：全面统筹考虑，优化合理安排；重视基本知识和基础理论，淡化繁琐的数学证明；突出概念和定理的理解，强化习题举例，建立相应的实践环节，力求书本理论与实际应用紧密联系。
4 提高教学质量的几点体会
提高教学质量是教学活动的永恒主题，也是培养高素质学生的必然要求，根据上面提到的信息论与编码课程特点，结合我们的教学实践，总结出以下几点体会。
首先，端正学生的学习态度，培养学生建立必要的知识框架。在教学环节中，强调该课程的学科背景，引导学生建立必要的学科体系思想。20世纪80年代以来，随着网络、通信和信息技术的突破性进展，因特网在全球迅速增长并广泛普及。由于信息技术的推动，人类社会与经济飞速发展，人类已进入了信息化时代。因而，信息观念和信息处理能力已经成为21世纪新型人才所必备的基本素养。信息论与编码理论正是信息技术发展的基本理论。因此，学好这门课程就显得尤为必要和重要。通过类似的强调，使得学生端正学习态度，建立对课程的正确认识，让学好这门课程成为学生自觉的愿望。
其次，理论联系实际，激发学生的学习热情。根据课程的理论体系，着重强调课程中基本概念和定理的物理意义，结合信息论与编码对实际工作的指导作用进行讲解。同时，我们增加必要的实践环节，编写了相关实验，如信道容量的迭代算法、Huffman编码、LZW编码、线性分组码等。每个实验给出具体的算法和实验要求，学生可以采用自己熟悉的编程语言实现。根据我校课程的设置，结合目前工程研究与应用的实际发展，我们一般推荐学生采用MATLAB进行实验。通过实验，弥补了课程内容概念抽象、难以理解的不足，同时培养了学生严格、有序、科学的工作作风，提高了学生的分析问题、解决问题和实际动手能力。实践表明，通过这种教学手段，能够普遍提高学生对课程的理解和认识，为提高教学质量奠定了基础。
再次，培养学生的自学能力，指导学生扩展必要的知识面。信息学科是一个新兴的学科，而且是一个不断向前发展、不断深入的学科，所以学生要具备相当的自学能力，这是非常重要的。培养学生的自学能力，不仅仅是着眼于在校期间，更重要的是放眼未来，使学生毕业后走上工作岗位具备不断获取新知识的能力。因而在本课程的教学过程中，我们结合课程实际内容，有意识地引导学生拓展知识结构。如在讲解有损信源编码的过程中，结合目前实际广泛应用音视频编码、图像编码等，让学生收集相关的文件格式和压缩方案等相关内容。不仅使学生能够理论联系实际，加深了学生对课堂内容的认识，而且提高了学生的学生热情，同时扩展了一定的知识面，从而使教学效果得到提高。
5 总结
总之，由于信息论与编码课程自身特点，其课程开设与教学是一个系统而又复杂的工作，这里我们只是将多年来的教学经验加以总结，跟各位同行交流，也请各位专家学者指正。我们坚信，只要所有的教师同行重视正确地引导学生，采用形式多样的教学方法和手段，开设紧密联系现实生活的实验和实践环节；相关专家学者编写出更多有针对性的教材；学校加大基础设施的投入，努力改善实验环境。信息论与编码这门课程一定能发展出具体的专业特色，培养出更多的适合信息时代的专业人才。
参考文献：
[1] 傅祖芸. 信息论——基础理论与应用[M]. 2版. 北京：电子工业出版社，2007.
[2] 陈运. 信息论与编码（第二版）[M]. 2版. 北京：电子工业出版社，2007.
[3] 周川. 简明高等教育学[M]. 南京：河海大学出版社，2002.
[4] 谭顶良. 高等教育心理学[M]. 南京：河海大学出版社，2002.
关键词：信息论；编码理论；教学实践
中图分类号：G642文献标识码：A文章编号：1009-3044(2008)33-1442-02
Exploration and Practice of Information Theory and Coding Teaching Reform
LI Tao
(Nanjing University of Information Science and Technology, Nanjing 210044, China)
Abstract: This paper introduces the basic framework of information theory and coding, and analyzes the teaching features of the course. Combined with the real teaching experience, several experiences to improve the quality of teaching are presented.
Key words: information theory; coding theory; teaching practice
1 引言
众所周知，人类社会目前处于信息时代，以计算机技术、微电子技术以及通信技术为基础的信息技术在各个领域都有广泛的应用，并积极推动了社会的进步和经济的发展。为此，人们加大了对信息的表示、存储、处理等相关方面的研究力度，并进一步促进了相关专业的发展和应用。同时，世界各国大学在本科阶段普遍开设或增设与信息有关的课程，培养适合信息时代发展需要的人才。我国高等院校的发展与时俱进，也纷纷开设与信息相关课程。特别是与信息技术相关的学科专业，如通信工程专业、信息工程专业、信息与计算科学专业等，信息论已经成为一门重要的专业基础课程。因而如何有效、合理地进行信息论与编码教学成为各高校信息论教师所面临的现实问题。
2 信息论与编码的基本理论体系
1948年，美国科学家克劳德·香农（C.E. Shannon）在《Bell System Technical Journal》上发表了《A Mathematical Theory of Communication》一文。在文中，他用概率测度和数理统计的方法系统地讨论了通信的基本问题，进而得出了几个重要而带有普遍意义的结论，并由此奠定了现代信息论的基础。香农理论的核心是：揭示了在通信系统中采用适当的编码后能够实现高效率和高可靠地传输信息，并得出了信源编码定理和信道编码定理。从数学观点看，这些定理是最优编码的存在定理。但从工程观点看，这些定理不是结构性的，不能从定理的结果直接得出实现最优编码的具体方法。然而，它们给出了编码的性能极限，在理论上阐明了通信系统中各种因素的相互关系，为寻找最佳通信系统提供了重要的理论依据。
一般认为，信息论的研究内容和范围三种：
1) 狭义信息论，也称经典信息论。它主要研究信息的测度、信道容量以及信源和信道编码理论等问题。这部分内容是信息论的基础理论，又称香农基本理论。
2) 一般信息论，主要是研究信息传输和处理问题。除了香农理论以外，还包括噪声理论、信号滤波和预测、统计检测与估计理论、调制理论、信息处理理论以及保密理论等。后一部分内容以美国科学家维纳（N.Wiener）为代表，其中最有贡献的是维纳和苏联科学家柯尔莫哥洛夫。
3) 广义信息论。广义信息论不仅包括上述两方面的内容，而且包括所有与信息有关的自然和社会领域，如模式识别、计算机翻译、心理学、遗传学、神经生理学、语言学、语义学甚至包括社会学中有关信息的问题，是新兴的信息科学理论。
3 信息论与编码课程的教学特点
学习和掌握信息论越来越受到人们的重视，了解相关理论与知识成为一种必需。为此，很多高校都在相关专业中开设了信息论与编码课程，作为本科生、研究生的必修或选修的课程。通过上面的分析可以看出，信息论为编码提供理论基础，编码在信息论的基础上指导工程实践，二者联系非常紧密，理论上前后相承。因而在课程开设上，一般可以将二者放在前后相邻的两个学期，安装在本科第四学期和第五学期；也有部分院校将二者合在一起在一个学期讲授，安排在本科第五学期完成。我校结合相关信息专业的具体特点和要求，采用了第二种教学计划。
信息论课程中运用了大量的数学知识，覆盖了理工科学生所学的大部分数学知识，主要包括高等数学、线性代数、离散数学、概率论与数理统计、随机过程以及数值分析等。这些知识本身就比较复杂、抽象，同时还涉及到通信方面一些基础专业知识，而学生一般在这些方面恰恰是薄弱环节，因此在学习的过程中显得非常抽象、枯燥，接受起来比较困难。容易使学生形成畏难情绪，导致学生失去学习兴趣。此外，由于信息论与编码所阐述的内容基本都是基础理论，学生在学习的过程中，会下意识地将信息论与编码同其它专业课进行横向比较，发现信息论学习好坏对别的专业课似乎影响不大；也有学生认为信息论不像有些专业课那样对他们找工作起到很重要的作用。在学生眼里信息论纯粹是理论，是搞科学研究人员学习的内容，没能认识到信息论的重要价值。这势必会影响到学生正常的学习态度，从而影响整个课程的教学效果。
根据我校确立的“厚基础、宽口径、强能力、高素质”培养模式及原则，结合复合型人才培养的要求，我们在信息论与编码课程教学中，确立了如下总体原则：全面统筹考虑，优化合理安排；重视基本知识和基础理论，淡化繁琐的数学证明；突出概念和定理的理解，强化习题举例，建立相应的实践环节，力求书本理论与实际应用紧密联系。
4 提高教学质量的几点体会
提高教学质量是教学活动的永恒主题，也是培养高素质学生的必然要求，根据上面提到的信息论与编码课程特点，结合我们的教学实践，总结出以下几点体会。
首先，端正学生的学习态度，培养学生建立必要的知识框架。在教学环节中，强调该课程的学科背景，引导学生建立必要的学科体系思想。20世纪80年代以来，随着网络、通信和信息技术的突破性进展，因特网在全球迅速增长并广泛普及。由于信息技术的推动，人类社会与经济飞速发展，人类已进入了信息化时代。因而，信息观念和信息处理能力已经成为21世纪新型人才所必备的基本素养。信息论与编码理论正是信息技术发展的基本理论。因此，学好这门课程就显得尤为必要和重要。通过类似的强调，使得学生端正学习态度，建立对课程的正确认识，让学好这门课程成为学生自觉的愿望。
其次，理论联系实际，激发学生的学习热情。根据课程的理论体系，着重强调课程中基本概念和定理的物理意义，结合信息论与编码对实际工作的指导作用进行讲解。同时，我们增加必要的实践环节，编写了相关实验，如信道容量的迭代算法、Huffman编码、LZW编码、线性分组码等。每个实验给出具体的算法和实验要求，学生可以采用自己熟悉的编程语言实现。根据我校课程的设置，结合目前工程研究与应用的实际发展，我们一般推荐学生采用MATLAB进行实验。通过实验，弥补了课程内容概念抽象、难以理解的不足，同时培养了学生严格、有序、科学的工作作风，提高了学生的分析问题、解决问题和实际动手能力。实践表明，通过这种教学手段，能够普遍提高学生对课程的理解和认识，为提高教学质量奠定了基础。
再次，培养学生的自学能力，指导学生扩展必要的知识面。信息学科是一个新兴的学科，而且是一个不断向前发展、不断深入的学科，所以学生要具备相当的自学能力，这是非常重要的。培养学生的自学能力，不仅仅是着眼于在校期间，更重要的是放眼未来，使学生毕业后走上工作岗位具备不断获取新知识的能力。因而在本课程的教学过程中，我们结合课程实际内容，有意识地引导学生拓展知识结构。如在讲解有损信源编码的过程中，结合目前实际广泛应用音视频编码、图像编码等，让学生收集相关的文件格式和压缩方案等相关内容。不仅使学生能够理论联系实际，加深了学生对课堂内容的认识，而且提高了学生的学生热情，同时扩展了一定的知识面，从而使教学效果得到提高。
5 总结
总之，由于信息论与编码课程自身特点，其课程开设与教学是一个系统而又复杂的工作，这里我们只是将多年来的教学经验加以总结，跟各位同行交流，也请各位专家学者指正。我们坚信，只要所有的教师同行重视正确地引导学生，采用形式多样的教学方法和手段，开设紧密联系现实生活的实验和实践环节；相关专家学者编写出更多有针对性的教材；学校加大基础设施的投入，努力改善实验环境。信息论与编码这门课程一定能发展出具体的专业特色，培养出更多的适合信息时代的专业人才。
参考文献：
[1] 傅祖芸. 信息论——基础理论与应用[M]. 2版. 北京：电子工业出版社，2007.
[2] 陈运. 信息论与编码（第二版）[M]. 2版. 北京：电子工业出版社，2007.
[3] 周川. 简明高等教育学[M]. 南京：河海大学出版社，2002.
[4] 谭顶良. 高等教育心理学[M]. 南京：河海大学出版社，2002.