信道容量定理的应用与分析
2016-12-17燕善俊
摘 要:在通信系统中,系统的性能至关重要,为了更好地设计系统和评估系统性能,需要尽可能准确地计算信道传输信息的能力,即信道容量的大小。论文介绍了信道容量定理的内容,利用信道容量定理计算出了一个具体信道的信道容量,通过对该题目的进一步分析,给出了该信道满足信道容量定理要求的另外一些最佳输入分布,从而验证了信道的最佳输入分布的不唯一性。
关键词:信道 信道容量定理 平均互信息 最佳输入分布
中图分类号:TN911 文献标识码:A 文章编号:1674-098X(2016)07(c)-0070-02
信息论从产生到现在,虽然只有短短的几十年时间,但它的进步与发展,无论是对于学术界还是人类社会,影响都是非常大的。信息论的研究对象是广义上的通信系统,如图1所示。
一切信息流通系统都被信息论抽象整合为一个特定的模型,人们通过探寻通信系统中信号的传递和处理规律来得到信息传输和处理的模式,目的是为了增强通信的准确性和可用性。
为了能够在一定条件下传输更多的信息,需要知道信道传输信息的能力,即信道容量的大小,因此信道容量的计算在通信中至关重要。
1 信道容量的定义
表示信道输入时,能够得到的对于输出符号集Y的平均信息量的大小;正常情况下,当取不一样的值时,也是不一样的。信道容量定理让我们知道,当平均互信息获得最大值的时候,无论为何值,只要其满足概率大于0时,所有的都是一样的。
在满足信道容量时,该定理只能给出最佳输入分布所满足的条件,而对于最佳输入分布却不能给出,信道容量的值也同样不能得到。同时,从定理也可看出达到信道容量的最佳分布可能有多个,只要输入概率分布符合充要条件,它便为信道的最佳输入分布。
3 信道容量定理的应用举例与分析
例如,存在一个离散信道,输入符号集,输出符号集,信道转移矩阵和信道转移图分别如下。(见图2)
对于上述信道能否利用信道容量定理求信道的容量呢?其关键在于找到一个输入分布满足信道容量定理的条件。因为平均互信息,而由信道容量的定义可知,要使得平均互信息达到最大,只要存在一种输入分布,在这种输入分布下,输出分布为等概分布(此时达到最大值),同时条件熵为0,则在此分布下,平均互信息达到信道容量,而此时的分布应该满足信道容量定理的要求。
同样的方法还可以得到该信道的其他的一些最佳输入分布,都满足信道容量定理的要求,进而也说明了信道的最佳输入分布有时是不唯一的。
参考文献
[1] 李梅,李亦农,王玉暤.信息论基础教程[M].3版.北京:北京邮电大学出版社,2015.
[2] 燕善俊,程德强.一种基于DCT和混沌序列的图像加密算法[J].徐州工程学院学报:自然科学版,2014,29(4):39-43.
[3] Roman S.Coding and Information Theory[M].Berlin:Springer—Verlag,1998.
[4] 燕善俊.香农第一编码定理之分析[J].金陵科技学院学报,2012,28(2):11-14.