基于知识图谱理论的信息论课程教学改革研究

刘振丙 李泽亚

摘要：信息论是信息工程和通信系统等相关专业学生所应掌握的一门课程。随着信息时代的到来和人工智能的不断进步，针对信息论课程教学中存在的主要问题，该文结合当前热门的知识图谱理论的学习方法，提出了优化教学方案的几点方法，使教学内容更加系统完善，可以很大程度上增强学生对信息论这一课程学习兴趣，同时提高学生对知识的自学能力，进而达到教学的目的。

关键词：信息论；知识图谱理论；人工智能教学方案

中图分类号：TP3 文献标识码：A 文章编号：1009-3044（2018）12-0125-03

Abstract： Information theory is a course for students majoring in information engineering and communication system. With the advent of the information age and the continuous improvement of artificial intelligence， aiming at the main problems in the teaching of information theory， this paper presents some methods to optimize the teaching plan according to the current popular learning methods of knowledge graph theory， and makes the teaching content more systematic Perfect， can greatly enhance students interest in learning information theory of this course， while improving students' self-learning ability of knowledge， so as to achieve the purpose of teaching.

Key words： information theory； knowledge Graph theory； artificial intelligence； teaching plan

1 研究的背景和目標

信息论是研究信息传输和信息处理的一般规律的科学。追溯到1948年和1949年，在《贝尔系统技术杂志》（Bell System Technical Shannon）上，美国数学家C.E.香农发表了信息论的奠基性论文《通信的数学原理》（A Mathematical Theory of Communication），该论文的发表标志着信息论这一新学科的诞生，并于第二年发表了著名的论文《噪声下的通信》（Communicationin The Presence of Noise），这两篇论文是信息论科学的奠基性著作，香农在文章中深刻地阐明了关于通信的一系列基本问题。 在无失真或允许一定失真（限失真）的条件下，如何实现噪声信道中信息的有效传输，文章中运用数学概率论的知识，对信息这一抽象概念进行了定量度量的定义，并给出了信息熵的定义。信息熵是对随机事件可变性的度量，其公式如下：

[HX=Elog2X= x∈Xpxlog2（1p（x））]

其中X为有限个事件 x 的集合，X是定义在X上的随机变量。

信息论虽然只有短短的几十年的发展历程，但随着通信科学的不断进步，它对学术界的研究和通信领域的发展产生了重要的影响力。自2010年以来，人工智能得到了快速发展，交叉学科的应用趋势越来越受科研人员的重视，信息论的研究内容也不再局限于通信单个领域，逐渐的拓展到其他科学领域，如语义学、模式识别、神经生理学、遗传学、金融投资学等与信息技术息息相关的方向。在通信系统中，信息以消息的形式传递，经过系统接收处理，掌握信号传递规律和处理规律，进而做出调整，以提高通信的时效性和平稳性，最终达到系统的最优化。

目前，在全国高等院校的信息工程和通信系统等各类专业中，基本上都开设了信息论这一学科。信息论是信息科学的理论基础，是一门新兴的横断学课，其涉及知识点繁多且复杂，作为通信的数学原理，应用到了线性代数、随机过程、概率论与数理统计等中的大量数学知识。由此可见，真正掌握和学好信息论这一课程，对学生的数学基础和思维能力有着更高的要求。

如何能让学生更好地掌握和应用信息论的知识，正确的教学方案是关键。基本理论的学习是基础，实践与应用是对能力进一步的提升。随着信息论对多学科领域和社会经济发展的推动，更应该重视其产生的影响，并更好地加以学习，信息型人才是将来社会发展所不可缺少的。对传统的教学模式进行适当的创新，根据知识图谱理论，建立思维导图，让学生更好地掌握这一门课程，这是本次教学改革研究的重点。

2 教学中存在的主要问题

信息论的主要内容是通信的数学定理，广泛应用了理工科学生本科所修读的大部分数学学科的理论，对一些非数学专业的本科学生来说，课程内容涉及未学的数学知识，面对复杂的公式推导证明和抽象的内容概念，这无疑是教学和学习中的难点。在传统的信息论教学中，课程的大部分时间用来进行公式的推导证明及理论的讲解，没有合理的知识拓展分析及相关应用，造成学生最后不能有效的理解和学习。

教学中缺乏对理论知识的实践与应用，不能将信息论与现代信息技术的相关应用很好地结合起来。随着信息技术和互联网的快速发展，对隐马尔可夫模型、信道容量的迭代算法、无失真信源编码、有噪信道编码、限失真信源编码、图像的离散余弦变换等知识点的应用越来越多，而信息论教科书中继续沿用之前的例子，存在不能做到与时俱进，缺乏与现代应用实例的结合，应用与学习者专业相关性不大的问题，从而不能调动学习者的兴趣和学习积极性。

另外，信息论的教学学时在逐渐削减，从而导致教学过程中，只是介绍经典信息论的内容，没有涉及过多的分支。以“教”为中心的教学，缺乏自主创新意识，由于教学内容比较复杂，教学模式不新颖，未能调动学习者进修的能动性，学习者很难产生学习兴趣，对这一课程很好的学习。

3 优化教学方案主要内容

在信息论的教学过程中，如何运用知识图谱的理念呢？ 教学模式的改革应该顺应形势发展的要求，引入知识图谱理论，构建信息知识体系，将信息论知识点与交叉学科信息融合， 同时结合当今的技术应用，建立多个完整系统的图谱，更好地去讲解这一学科。

3.1 识图谱理论的相关介绍

3.1.1 知识图谱的概念及发展

随着大数据时代的到来和人工智能的迅速发展，人们越来越重视对相关知识点的交叉和系统融合，知识图谱成为当前互联网领域一个重要的研究分支。

知识图谱（Knowledge Graph）于2012年加入Google搜索，其作为一个知识库，使用语义检索功能从多种途径中网罗信息，进而提升搜索的质量。Google网络中的知识图谱，一方面罗列了重要信息的链接路径，另一方面提供了相关信息的结构化属性及关于主题的详细信息。通过构建系统完整的知识图谱，用户将能够使用相关功能提供的信息以快速地解决查询的问题，大大地提升了查询效率，减少查问者对相关问题的不必要搜索。知识图谱的构建主要是为了获得大量可供计算机处理的数据，包括重要知识点的基本内容及其交叉相关的知识。

知识图谱又称为科学知识图谱，是展示知识发展进程与结构联系的一系列各种差异的图像，是一个有序的、完整的思维导图体系。知识图谱是将应用数学、图形学、信息可视化技术、信息科学等课程的理论与方法与计量学引文分析、共现分析、自然语言理解等方法相结合，并利用可视化的图进行直观地展示学科的层次结构、发展过程、发展方向、最新研究成果及整体知识架构，以此实现多课程融合目的的当代搜索方法。

3.1.2 如何构建知识图谱

知识图谱的构建过程就是从各种结构化、半结构化或非结构化数据中，采用自然语言理解等相应技术抽取实体，实体属性及实体之间的联系，将各实体之间的属性有规律地连接起来，组成一张图。构建的知识图谱可以体现真实世界的相关信息，显示实体间的相关性及交叉拓展的信息。获取实体信息，需要实现实体识别、消歧 （重名，别名） 、实体关系挖掘等，以构建完善的知识图谱。

从图1可以看出，知识图谱涉及的技术非常多，并且每一项技术都值得去深究。

3.2 信息论教学中如何运用知识图谱理念

3.2.1 信息论中的教学重点难点及解决办法

在信息论学科的教学中，使用到了大量的数学理论，包含高等数学、线性代数、离散数学、概率论与数理统计、随机过程以及数值分析等，而数学本身就存在着许多重难点，再加上众多数学知识点的融合，对学生数学基础能力的要求更进一步加大。使用知识图谱教学理念，构建思维导图体系，建立知识点之间的联系，将信息论与数学理论结合，同时与其他的外延学科相结合，实现一个完整的系统学习。例如，在信源熵的数学特征计算中，对连续性和离散性进行结构化分类，一方面要用到高等数学中的积分运算对连续信源的概率密度进行求解，另一方面使用多元函数的条件极值来求离散信源熵的最值问题

通过多知识点实体的连接，构建端到端之间的联系，将抽象的概念和宽泛的理论，转化成相对应的熟悉的各学科知识点，依靠学科间知识点的贯通，在教学中不断引申，学生能够很好地掌握并进行各知识点的自学。例如，在对哈夫曼编码的学习中，以哈夫曼编码为实体中心，拓展与其相关的交叉学科分支，建立图谱体系。很多专业课程都涉及了对哈夫曼编码的应用，包括在数据结构课程中，如何从算法的角度解决二叉树的生成和遍历的最优化问题；在多媒体技术课程中，如何处理对图像、声音、视频等数字信息的压缩和加解密问题；在计算机体系结构科目中，如何处理计算机指令操作码的优化问题等。

将应用工程实例及实践加入知识图谱之中，强调对知识本质的理解与应用拓展，突出核心内容，加强应用型引申，结合当今信息产业发展现状，引出并讲解相应的应用，以增强学生的学习兴趣。例如将无失真信源编码应用到计算机文件的压缩中，面对庞大的数据存储问题，应用信息论相关压缩算法，当今已经达到的压缩技术能在保证文件不失真的情况下，存储量只占原来的三分之一；将有噪信道编码应用到模拟话路中，使调制解调器的数据传输速率提高到尽可能接近理论极限的水平；将限失真信源编码应用到语音信号的压缩，使编码速率可以远远低于奈奎斯特采样定律和量化噪声理论中的编码速率。

建立信息论教学知识图谱，划分侧重点，构建重要实体之间的框架，减少对次重要和不重要知识点的讲解时间，及对其中知识点进行压缩。例如教学的侧重点应当顺应形势发展的要求，当前的信息处理和编码技术已普遍數字化，在讲习内容安排方面，应恰当删减连续信源理论、连续信道容量等相关内容，对离散信号知识点的讲解应该比连续性信号更加详细， 同时要减少对相关公式的推导与证明过程，侧重离散概念，带动连续信号的分析，建立起二者的系统概念图，建立对比与应用分析。

3.2.2 教学方案的改革

信息学科是一个新型的学科，而且是一个逐渐发展和深入的科目。构建合理的课程体系，在课程章节讲解上有条理地分配相应的时间，考虑到学习者自我学习和思考的能力所在，合理的分配课后作业和思考题，以提高学生自我学习能力。鼓励学习者将书本知识转化为解决工程问题的方法，并将实践所获得的知识与经验，有效运用于理解书本知识，鼓励学生提出假设与否定。

在备课过程中，从教学资源数据库及网络中，获取大量课程相关的授课素材，将信息论中的定理证明和推导过程， 结合其所包含的物理含义及应用能力反复强调出来。在授课时，对本课程与其他专业相关联的内容，进行总结归纳和拓展，建立课程之间的交叉联系，将不同科目的相关理论综合起来，联系实际应用，多举实例展现，以提升学习者的学习兴趣。

在教学过程中，注意适时提出一些问题，指引学习者更深入和更全面的理解。增加师生互动，转变师生角色，让基础扎实并对信息论知识点熟练的学生，站在老师的位置，给其他同学进行讲解，老师做出总结拓展并纠正错误。鼓励学生进行小组讨论，课堂上进行小组间的自我学习，搭建知识图谱，从而增强课堂的活跃性，激发学生的学习兴趣，加深对信息论课程的理解。

4 结语

将知识图谱理论应用到信息论系统中，通过建立合理的知识体系，拓展与教学内容相关的应用实例，调动学生的实践能力，让学生更好地接受新知识，同时加深对信息论的理解与应用，教会学生如何构建体系进行自我学习，真正意义上达到了教学的目的。在今后的教学过程中，也将不断把这一种新的教学模式应用到信息论及其他学科的教学中。

参考文献：

[1] 李梅.信息论基础与应用[M].北京：电子工业出版社，2016.

[2] 傅祖芸.信息论——基础理论与应用[M].北京：电子工业出版社，2001.

[3] 邓家先.信息论与编码课程教学改革探讨[J].电气电子教学学报，2007（02）.

[4] 杨晓萍，钱志鸿，高博.“信息论”教学内容和方法的改革[J].电气电子教学学报，2012，6.

[5] 刘峤，等.知识图谱构建技术综述[J].计算机研究与发展，2016，3.

[6] 唐琳.“信息论基础”课程优化教学初探[J].赤峰学院学报（自然科学版），2010，26（11）：194-196.