论文部分内容阅读
【中图分类号】G640
本文结合作者《信息论与编码》课程多年的教学经历就教学中如何让学生真正领会"信息论与编码"所涉及的主要问题，包括该课程所涉及的主要内容及各部分内容如何讲授给出了自己的见解。
1概述
"信息论与编码"是电子信息工程专业或相近专业开设的课程，之所以开设该课程，是因为该课程设计的编码技术已普遍应用于无线移动通信和计算机网络通信中。专业技术人员在研发工作中经常用到该技术。本文从该课程的教学中同学们经常提出而且相关的专业书籍并没有完整分析的几个基本问题出发，用最基本的理论（有些甚至是初高中的）基本理论进行分析和推理，期望通过该课程（及其它课程的教学），让同学们能够用已了解和掌握的基本理论、知识来分析问题和解决问题，待知识积累到一定程度和了解该领域在全世界的发展情况以后，可以从更长远的角度提出更加高深的问题，促进信息科学的发展。
2"信息论与编码"教学中需关注的问题
2.1"信息论与编码"到底解决什么问题。
"信息论与编码"是电信工程及相关专业中难度最高的几门课程之一，授课时首先需要让同学们明确"信息论与编码"能够解决什么问题。这是所有同学此前并不知晓且真正关心的问题，甚至现在国内有些排名靠前的高校，有的开设了该课程，后来又取消；或者有的在教学大纲中对学生的要求仅仅是掌握熵等基本概念。教学中经常出现的问题是，同学们都说学过熵的概念，但迄今为止，在我的教学中，讲授该课程之前，没有一个本科学生能够真正解释熵的含义。
对于本科生、硕士研究生甚至博士研究生的培养中，"信息论与编码"的重点应放在编码上。信息论实际上是存在性定理的证明，对本科生、硕士研究生来说，难度很大。而编码技术（实际上是寻求解决问题的具体途径和方法）的入门或者钻研深一点其实并不难。
上面谈到的编码问题真正要解决的是通信中的两个关键问题：有效性问题和可靠性问题。通信中有效性问题的解决方法是信息压缩，即信源编码；可靠性问题的解决措施是提供冗余信息，即信道编码。即，通信中的有效性问题和可靠性问题分别通过信源编码和信道编码来实现。从上面的介绍可以看出，有效性和可靠性的解决其实是一对矛盾。信息论与编码的核心就是解决这两个问题。传统的固话通信强调的是有效性的解决，而目前广为流行的无线移动通信中的语音业务和数据业务需要同时解决这两个问题：语音业务需要信道编码的原因是恶劣的通信环境；数据业务需要信道编码则源自数据可靠传输的基本技术指标。
2.2通信中的有效性问题
从概念上讲，同学们都会逐渐接受通信有效性问题的重要性。需要让同学们明确的是：
如今的有效性问题与传统通信的有效性问题完全不一样。传统通信中实现有效性的措施基本上指的是PCM，即模拟语音信号的数字化技术。而如今数字化技术的迅速发展导致无线移动通信的业务、宽带数据业务都远远超过固话业务，由此派生出的通信有效性的如下几种解决措施：一是无线移动通信中的语音编码问题；一是视频通信中的图像编码；另一个是数字信号的压缩编码。
授课时需要明确的是：移动通行中的语言数字化技术完全不同于PCM，PCM的性能虽然很好，但不能应用在无线移动通信中，理由是无线移动通信的宽带有限。因而将参量编码与PCM的波形编码结合起来用于无线移动通信，既克服了参量编码速率低但质量差的特点，又折衷了PCM质量好但速率高的特点。头像编码的过程类同PCM，只是遵循基色编码字理。
数字信号压缩编码最显著的例子是Huffman编码。显然有众多的参考文献分析介绍Huffman编码，并且给出看似很容易接受的实例，但这些文献大都基本上采用的是每次将两个概率压缩一次，没有介绍编码的根本法则，即，到底将多少概率压缩为一个概率，而实际上由于同学们不清楚到底有多少个概率压缩后仍编码为同等长度，因而在Huffman编码的教学中，应强调多少个概率压缩为一个概率的原则。
2.3通信中的可靠性问题
上面已经谈到过通信中的可靠性与有效性是一对矛盾，具体体现在：有效性的解决措施是去除冗余信息，而可靠性则是通过在信息中附加冗余信息，对信息传输过程中产生的差错予以纠正。对可靠性问题的解决由于难度很大，本科生基本上只限于入门和了解。
首先要搞清楚的是信道码的分类问题，即，分为分组码和卷积码。二者间最根本的差别取决于冗余信息的产生是否只与本时段的信息有关。分组码技术较多，同时也较卷积码容易实现，最常见的是汉明码，信道码的几乎所有文献中都要谈到汉明码。传统的分组码译码方式是最大似然译码。实用的分组码技术是BCH和RS码，因为其纠错能力优于汉明码。至于卷积码较分组码性能更优，但码率明显偏低，如用于2G、3G的卷积码的码率均为1∕2、1∕3，明显低于分组码。卷积码的应用源于Viterbi提出了较易工程实现的算法Viterbi算法。
1993年来，Turbo码和LDPC码迅速发展起来。从本质上说，Turbo是卷积码的延伸和发展；LDPC本质上是分组码。但Turbo码和LDPC码采用了提高精确度的迭代译码。迭代译码影响了卷积码，使得卷积码实现时也采用了迭代算法。本科生完全掌握上述概念难度很大。针对信道编码应用广的特点，可由浅入深地向同学们介绍分组码的编码、译码和卷积码的编译码对有志于从事信道编码研究工作的学生是必要的。
3结论
由于数字技术的广泛应用，必不可少的涉及到信源编译码和信道编译码。在教学过程中首先让同学们认识到分别解决什么问题，然后解析如何来解决有效性和可靠性问题势必可以取得好的效果。
本文结合作者《信息论与编码》课程多年的教学经历就教学中如何让学生真正领会"信息论与编码"所涉及的主要问题，包括该课程所涉及的主要内容及各部分内容如何讲授给出了自己的见解。
1概述
"信息论与编码"是电子信息工程专业或相近专业开设的课程，之所以开设该课程，是因为该课程设计的编码技术已普遍应用于无线移动通信和计算机网络通信中。专业技术人员在研发工作中经常用到该技术。本文从该课程的教学中同学们经常提出而且相关的专业书籍并没有完整分析的几个基本问题出发，用最基本的理论（有些甚至是初高中的）基本理论进行分析和推理，期望通过该课程（及其它课程的教学），让同学们能够用已了解和掌握的基本理论、知识来分析问题和解决问题，待知识积累到一定程度和了解该领域在全世界的发展情况以后，可以从更长远的角度提出更加高深的问题，促进信息科学的发展。
2"信息论与编码"教学中需关注的问题
2.1"信息论与编码"到底解决什么问题。
"信息论与编码"是电信工程及相关专业中难度最高的几门课程之一，授课时首先需要让同学们明确"信息论与编码"能够解决什么问题。这是所有同学此前并不知晓且真正关心的问题，甚至现在国内有些排名靠前的高校，有的开设了该课程，后来又取消；或者有的在教学大纲中对学生的要求仅仅是掌握熵等基本概念。教学中经常出现的问题是，同学们都说学过熵的概念，但迄今为止，在我的教学中，讲授该课程之前，没有一个本科学生能够真正解释熵的含义。
对于本科生、硕士研究生甚至博士研究生的培养中，"信息论与编码"的重点应放在编码上。信息论实际上是存在性定理的证明，对本科生、硕士研究生来说，难度很大。而编码技术（实际上是寻求解决问题的具体途径和方法）的入门或者钻研深一点其实并不难。
上面谈到的编码问题真正要解决的是通信中的两个关键问题：有效性问题和可靠性问题。通信中有效性问题的解决方法是信息压缩，即信源编码；可靠性问题的解决措施是提供冗余信息，即信道编码。即，通信中的有效性问题和可靠性问题分别通过信源编码和信道编码来实现。从上面的介绍可以看出，有效性和可靠性的解决其实是一对矛盾。信息论与编码的核心就是解决这两个问题。传统的固话通信强调的是有效性的解决，而目前广为流行的无线移动通信中的语音业务和数据业务需要同时解决这两个问题：语音业务需要信道编码的原因是恶劣的通信环境；数据业务需要信道编码则源自数据可靠传输的基本技术指标。
2.2通信中的有效性问题
从概念上讲，同学们都会逐渐接受通信有效性问题的重要性。需要让同学们明确的是：
如今的有效性问题与传统通信的有效性问题完全不一样。传统通信中实现有效性的措施基本上指的是PCM，即模拟语音信号的数字化技术。而如今数字化技术的迅速发展导致无线移动通信的业务、宽带数据业务都远远超过固话业务，由此派生出的通信有效性的如下几种解决措施：一是无线移动通信中的语音编码问题；一是视频通信中的图像编码；另一个是数字信号的压缩编码。
授课时需要明确的是：移动通行中的语言数字化技术完全不同于PCM，PCM的性能虽然很好，但不能应用在无线移动通信中，理由是无线移动通信的宽带有限。因而将参量编码与PCM的波形编码结合起来用于无线移动通信，既克服了参量编码速率低但质量差的特点，又折衷了PCM质量好但速率高的特点。头像编码的过程类同PCM，只是遵循基色编码字理。
数字信号压缩编码最显著的例子是Huffman编码。显然有众多的参考文献分析介绍Huffman编码，并且给出看似很容易接受的实例，但这些文献大都基本上采用的是每次将两个概率压缩一次，没有介绍编码的根本法则，即，到底将多少概率压缩为一个概率，而实际上由于同学们不清楚到底有多少个概率压缩后仍编码为同等长度，因而在Huffman编码的教学中，应强调多少个概率压缩为一个概率的原则。
2.3通信中的可靠性问题
上面已经谈到过通信中的可靠性与有效性是一对矛盾，具体体现在：有效性的解决措施是去除冗余信息，而可靠性则是通过在信息中附加冗余信息，对信息传输过程中产生的差错予以纠正。对可靠性问题的解决由于难度很大，本科生基本上只限于入门和了解。
首先要搞清楚的是信道码的分类问题，即，分为分组码和卷积码。二者间最根本的差别取决于冗余信息的产生是否只与本时段的信息有关。分组码技术较多，同时也较卷积码容易实现，最常见的是汉明码，信道码的几乎所有文献中都要谈到汉明码。传统的分组码译码方式是最大似然译码。实用的分组码技术是BCH和RS码，因为其纠错能力优于汉明码。至于卷积码较分组码性能更优，但码率明显偏低，如用于2G、3G的卷积码的码率均为1∕2、1∕3，明显低于分组码。卷积码的应用源于Viterbi提出了较易工程实现的算法Viterbi算法。
1993年来，Turbo码和LDPC码迅速发展起来。从本质上说，Turbo是卷积码的延伸和发展；LDPC本质上是分组码。但Turbo码和LDPC码采用了提高精确度的迭代译码。迭代译码影响了卷积码，使得卷积码实现时也采用了迭代算法。本科生完全掌握上述概念难度很大。针对信道编码应用广的特点，可由浅入深地向同学们介绍分组码的编码、译码和卷积码的编译码对有志于从事信道编码研究工作的学生是必要的。
3结论
由于数字技术的广泛应用，必不可少的涉及到信源编译码和信道编译码。在教学过程中首先让同学们认识到分别解决什么问题，然后解析如何来解决有效性和可靠性问题势必可以取得好的效果。