面向人工智能应用的《信息论与编码》课程教学初探

刘泽江

摘要：随着素质教育的深入推进，教师也逐渐从传统的教学模式中解放出来，不断的摸索、研究新的教学方法。信息的获取、处理、传输和应用在现实生活中随处可见，而如何提高信息传输的可靠性、有效性、保密性和认证性，正是《信息论与编码》课程要研究的内容，其研究目的是解决信息传输系统的昀优化问题。《信息论与编码》课程是一门学科交叉性很强的课程，不仅涉及很多通信领域的专业知识，还涉及诸多数学知识，被称为“通信的数学理论”，目前已经成为通信工程、电子信息工程等专业的重要专业课程。本文就面向人工智能应用的《信息论与编码》课程教学展开探讨。

关键词：信息论与编码;人工智能;创新

引言

信息论是现代信息科学与技术的基础理论，它与人们的工作和生活息息相关，已被广泛应用到数字图像处理、数字通信等各个领域。因而现在各大高校均针对通信、电子信息类专业设置了信息论与编码课程，同时该课程也由原来的研究生课程逐渐成为本科课程体系中的一门专业必修课。信息论与编码主要是运用概率论和数理统计的方法来研究信息的传输和处理过程中一般规律和具体实现的学科。

1信息论与人工智能相关专业的关联

信息论是现代信息科学的重要组成部分，人工智能是一门研究如何使机器具有人类智能的学科，是当下昀热门的行业方向，二者之间一直是“一体两面”的关系。例如，对于人工智能领域的机器 学习，剑 桥大 学教 授 David MacKay 说“Information theory and machine learning are thetwo sides of the same coin”。信息论与机器学习同为涉及计算机科学和应用数学等学科的分支领域，二者在起源和应用上有很多相似之处。信息论方法在人工智能方向多种应用算法中同样有重要作用，特别对信息统计、数据挖掘等领域的发展有重要意义。

2面向人工智能应用的《信息论与编码》课程教学

2.1课程内容的调整与更新

在理论教学中，现有的教学内容主要以基础概念为主，课程内容枯燥单一，缺乏联系实际。比如熵的概念，学生只是简单理解概念，而不清楚应具体应用在哪个领域，而且运用的编码方法过于陈旧，脱离企业目前使用的流行的方法。因此，课程内容需要与时俱进。如在教学中可以引入交叉熵的概念，并将其结合到图像识别中作为代价函数进行讲解，介绍代价函数的作用。另外通过基于卷积神经网络的图像分类等具体案例加深学生对改函数的理解，并在实验中与传统的二次方差函数进行比较，观察不同代价函数下网络的收敛情况，在此基础上推荐学生一些参考文献，了解前沿技术。在章节安排中进行一些调整。如在讲解限失真源编码内容之前，先解释信息率失真函数。介绍其目的和作用，并结合身边例子加深学生理解。内容上重点讲述新技术的用途和影响。如可以通过实验中无线通信系统的仿真，从多方面介绍信道编码技术，帮助学生更好地理解和理解这些技术原理。在兴趣的驱使下，学生将乐于探索新知识。整合专业知识，介绍具体案例，提高学生综合应用能力。“信息理论与编码”是本科院校的高级电子专业课程，与、、、

“通信原理”“信号与系统”“C语言编程”“Matlab”和“数字信号处理”之间存在一定的相关性。如基于支持向量级的心电图信号身份识别案例中，在心电信号的预处阶段，会用到“信号与系统”、“通信原理”和“数字信号处理”的理论用于信号分析———心电信号分割和去噪，在特征提取阶段，会用到“信息论与编码”用于提取信号的有用信息，昀后在分类阶段会用到计算机语言用于实现支持向量机的分类。

2.2采用线上线下混合式教学

在教学过程中，有些知识点很容易理解，这些知识点就不需要在课堂上重复讲解，以免过多浪费线下课堂的有限时间，而有些知识点则较难理解，大部分学生都会卡在这些较难理解的知识点上。因此，为了提高课堂教学的效率，可在超星等网络平台创建线上课程，把相关的教学资料提前上传到网站上，让学生提前预习。通过课前的线上预习，学生已经基本掌握了较容易理解的知识点，则在线下课堂上就不需要对一般性的内容再重复讲解，可以重点关注课程的难点和核心内容，解答学生的疑问。《信息论与编码》课程较好的线上课程资源有西安电子科技大学、国防科技大学的信息论国家精品课程，MIT开放课程，Stanford的信息论课程等，都可以作为学生提前预习的线上课程材料。同时，由于采取了线上资源的提前学习，这也能够为线下课堂节省出一定的时间，可以在这些节省出来的时间开展更多的课堂互动交流活动，进一步提高学生的学习兴趣和学习效果。

2.3关联拓展，弱化公式推导证明

信息论与编码课程本身包含大量的公式推导和定理证明，这涉及众多的先修知识，比如高等数学、概率论与数理统计、随机过程、线性代数、数字信号处理、通信原理等。因而该课程的学习对学生先修知识的要求是比较高的，这也是学生感觉学习信息论困难的主要原因之一。这就要求教师在教学过程中要根据需要适当引入先修知识帮助学生完成学习的顺利过渡。例如在求解一般类型信道的信道容量时，可先简述下高等数学中拉格朗日乘子法求条件极值的方法，这也将有利于后续章节的讲授，比如信息率失真函数的参量表达式推导也涉及到了该知识点。另外，教学内容不应仅仅拘泥于教材中的示例，可以做适当的拓展扩充，将本课程的基础知识与科技前沿技術结合起来，进一步激发学生的学习热情，比如在讲授离散信源的冗余度时先简略介绍下人工智能的相关知识，就可以与教材中英语信源的示例相衔接，这既可以给学生建立一个更宏观的知识结构框架，也有利于学生对该知识点的理解。

结语

《信息论与编码》课程对培养电子信息类的专业人才具有重要的作用。针对传统《信息论与编码》课程教学中存在的问题，本文从转变课程认识、整合教学内容、改善教学方法和提升实践能力等方面提出了改革措施，通过提升该课程的教学质量来提高人才培养的质量，以便为电子信息领域培养更多优秀人才。

参考文献

[1]曹雪虹.信息论与编码[M].北京：清华大学出版社，2018.

[2]余海峰. “信息论与编码理论”课程教学改革与实践[J].黄山学院学报，2019，18（03）：87-89.

[3]刘美春. “信息论与编码”课程实验教学探析[J].教育现代化，2019，6（32）：133-134.