信息论与编码本科教学探讨

林青

摘要：信息论与编码是信息类专业的一门重要的专业基础课程。由于理论性强、概念抽象，导致学生难学，老师难教。本文分析了信息论与编码教学过程中存在的问题，从教材、教学内容和教学方法上进行了探讨，并提出一些有益的建议，取得了良好的教学效果。

关键词：信息论与编码;教学方法;实验教学

中图分类号：G642.41     文献标志码：A     文章编号：1674-9324（2015）47-0235-02

信息论与编码是信息类专业一门重要的专业基础课程，它运用概率论与数理统计的方法研究通信系统的有效性、可靠性以及安全性，以便达到系统的最优化。

由于这门课程理论性强、概念抽象，国内很多高校最初只向研究生开设此课程。随着信息技术的发展，编码技术在移动通信、数字多媒体以及信息安全等领域得到广泛的应用，国内许多高校将信息论与编码作为本科教学中的主干课程，但在本课教学过程中，存在下列问题：（1）本课程要求学生掌握的基础知识较多，包括概率论、数理统计、线性代数、随机过程以及通信原理等，而国内大部分高校是把随机过程作为研究生课程来开设的，这就导致本科学生先修知识不足，对某些公式的证明理解起来较困难;（2）学生在学习的过程中，会与其他专业基础课（如信号与系统、数字信号处理等）进行比较，误认为本课程对其所学专业影响不大，以后的工作中用不到，再加上研究生考试不需要，所以大部分学生普遍存在不重视的心理;（3）本课程涉及到的概念比较抽象，公式推导比较复杂，对于数学基础薄弱的学生来说，学习起来比较困难，从而产生畏学厌学的心理。

为了解决上述问题，提高教学效果，本文将从教材、教学内容、教学方法三方面进行探讨。

一、教材

目前，国内外有关信息论与编码课程的教材很多，有的偏重于理论的介绍，涵盖的学科范围较广，这种教材以国外教材为主，像Thomas M.Cover Joy A.Thomas的《信息论基础》，适合于研究生阶段来学习;有的是以通信为背景突出理论的物理含义，这类教材国内较多，用的较多的是姜丹的《信息论与编码》、李亦农和李梅的《信息论基础教程》、陈运的《信息论与编码》。我们根据自己专业的特点及学生先修课程的情况，选用陈运的《信息论与编码》，该书最大特点是把信息论涉及的数学知识限制在通信系统的范畴内，避免了复杂的公式推导过程，使本科学生易懂易学。

二、教学内容的选取及组织

信息论与编码这门课程的内容分为基础理论与编码两部分，其涉及的主要内容为：信源熵、信道容量、率失真函数、信源编码以及信道编码五个基本内容。我们专业共安排了48个学时，其中有44个学时的理论教学，4个学时的实验教学。此外，我们在五个基本内容的基础上，又安排了密码学的内容。

信源熵解决了无失真信源编码的极限问题，在信息论中占的比重较大，这部分内容的讲解过程如图1所示。我们首先由单符号离散信源入手讲解信息量、熵的基本概念，从消息的发送、传输及存储三个角度分析它们的物理含义，再由单符号离散信源推广到多符号离散平稳信源。由于多符号离散平稳信源存在缺陷：只考虑每个消息（组）中符号间的约束关系，没有考虑各个消息（组）间的相关性，引出马尔科夫信源的概念。实际信源都可以近似成马尔科夫信源，如数字电视信号可以看成二维的一阶马尔科夫信源，传输过程中采用隔行隔列扫描传输。对于连续信源，由于现在通信基本上是数字通信，连续信号都经模数转换成数字信号，这部分内容，我们只讲解服从高斯分布、均匀分布以及指数分布信源的熵。

信道容量解决了信道信息传输的问题，即信道传输一个符号所能传输的最大平均信息量，实质上就是求解平均互信息量的最大值。在一般教材中，互信息量及平均互信息量是放在信源熵这一章讲解的，为了让学生更好地理解平均信息量，我们的做法就是打乱次序，把其放在信道容量这一章讲解，这样可以做到主次分明，让学生认识到平均互信息量主要解决的问题。信道容量的讲解过程相对于熵的讲解过程较容易，只要详细讲述其概念及物理意义，剩下的任务就是信道容量及最佳输入的求解过程。这里我们重点讲解单符号离散信道、并联信道、组合信道及加性连续信道的信道容量。

信源编码部分，我们讲解次序是紧随信源熵内容之后。首先简单介绍变长编码及无失真编码定理，再引入无失真编码方法——熵编码（统计编码）。内容上，一般教材只是简单介绍统计压缩编码方法，其缺点是没有消除像素间的冗余度，由此提出变换编码的概念，将相关冗余变为变换后的统计冗余，由于人类存在心理视觉冗余，采用量化手段可以消除。此处，引入静态图像压缩标准JPEG，重点讲解其压缩及解压缩过程，让学生了解数码相机的压缩机理。

信道编码部分，由于跟通信原理课程内容重合，我们专业放在通信原理中，这里不再表述。

信息率失真函数的求解过程涉及到变分方程，较复杂，这部分重点讲解其基本概念、物理含义，简单介绍离散信源和连续信源率失真函数的求解思路，简化其推导。

密码学的内容主要介绍古典密码学、现代密码学较经典的DES算法和RSA公钥密码算法。这里为了激发学生的学习兴趣，我们引入了密码学在战争中和网络安全等方面的应用例子。

讲解内容经过上面的选取和组织，避免了大量公式的推导过程，解决了学生先修课不足的情况，达到了良好的教学效果。

三、教学方法探讨

（一）培养学生学习兴趣

信息论与编码理论课程理论性强，一般的教学都是基于数学层面讲解其定理的推导过程，学生学习起来抽象、乏味，从而容易失去兴趣。

为了避免这种现象的产生，授课过程中，我们引入信息论在专业学科中的应用。如讲述注水定理时，可以结合数字电视、第四代移动通信中OFDM调制方法的最佳功率分配。在讲述密码学时，引入数字水印技术，指出其在版权中的应用，并以实际的水印例子展示给大家看。

另外，概念讲解时，可以举几个学生比较熟悉的例子。如平稳信源的概念，理解起来较困难，可以以抛硬币的例子来讲解，任意时刻抛一枚均匀的硬币其概率分布都是一样的，所以是平稳信源。又如数字通信过程中，发送端输出的消息是随机的（0或1），但其任意时刻的概率分布都相同，一般情况下服从等概分布，所以通信系统的信源也可以看成平稳信源。

这样的方法可以使学生认识到，信息论在工程上的应用，加深对概念的理解，提高他们对知识的兴趣，从而易于接受和掌握相关的思考方法。

（二）加强师生互动

传统的教学方式是以老师为中心，而学生是被动参与的。这样很容易造成课堂气氛沉闷，学生产生消极心理，教学效果差。

为了让学生很好地理解本课程内容，我们的做法是：（1）课前精心设计几个问题，课堂上让学生积极参与讨论。（2）针对我们专业及学生后续课程的学习，我们设计了信源编码方法研究、JPEG压缩、注水定理以及数字水印技术四个研究课题。课下，学生分成四组讨论，并用MATLAB工具实现这几个课题的仿真结果，最后每组提交一个讨论报告，报告占考试成绩的20%。这样，学生从被动转为主动，从“要我学”变成“我要学”，提高了他们独立思考问题、解决问题的能力。

（三）引入实验教学

我们实验教学共有4个学时，安排了两个实验项目。

我们采用MATLAB软件作为实验平台。MATLAB软件简单易用，可以利用其Simulink环境进行通信系统仿真。实验内容分别是信道容量迭代算法及离散熵曲线实验，前者占3个学时，后者占1个学时。要求是学生上课之前写好预习报告，编写好程序，上机调试修改，实验老师检查学生的预习报告，学生在实验后交实验报告，占成绩的10%。

这样避免了空洞的理论讲解，让学生从实践过程中理解概念的物理意义，达到一定的教学效果。

（四）采用多样的教学形式

传统的教学形式是习惯采用板书教学，随着多媒体技术的发展，多媒体教学已成为一种被普遍认可的教学形式，也是现在大部分高校教师采用的教学形式。这两种教学形式各有利弊，前者更有利于学生的理解，后者更直观，信息量更大，我们在教学过程中，进行两者结合。由于信源熵和信道容量这部分理论性强、难度大，对于某些定理可以板书，对其复杂的推导过程，采用课件传授，这样可以加深学生对定理的理解。

四、结束语

本文分析了信息论与编码本科教学过程中所面临的问题，从教学内容与教学方法两方面进行了探讨，教学实践表明这样做能取得更好的教学效果，激发学生的积极性和创造性。对于本课程的教学探索还要在今后的教学工作和教学实践中深入研究，不断完善。

参考文献：

[1]陈运.信息论与编码[M].第2版.北京：电子工业出版社，2007.

[2]孙龙杰，刘立康.移动通信技术[M].北京：科学出版社，2008.

[3]赵生妹，盛利，等.《信息论与编码》课程教学改革探讨[J].江苏广播电视大学学报，2008，（3）：80-83.