信息编码习题答案或提示

2.1 试问四进制、八进制脉冲所含信息量是二进制脉冲的多少倍?

答：2倍，3倍。

2.2 一副充分洗乱了的牌(含52张牌)，试问 (1) 任一特定排列所给出的信息量是多少？

(2) 若从中抽取13张牌，所给出的点数都不相同, 能得到多少信息量？解：(1) log252! (2) 任取13张，各点数不同的概率为

13!，信息量：9.4793(比特/符号) 13C522.3 居住某地区的女孩子有25%是大学生，在女大学生中有75%是身高160厘

米上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？ 答案：1.415比特/符号。提示：设事件A表示女大学生，事件C表示160CM以上的女孩，则问题就是求p(A|C)，

13p(AC)p(A)p(C|A)443p(A|C)

1p(C)p(C)82

2.4 设离散无忆信源

Xa10PX3/8a21a32a34，其发出的消息为1/41/41/8(2021201302130012032101103223210)21010，求0

(1) 此消息的自信息量是多少？

(2) 在此消息中平均每个符号携带的信息量是多少？

解：(1)87.81比特，

(2)1.951比特。

提示：先计算此消息出现的概率，再用自信息量除以此消息包含的符号总数(共45个)。

2.5 从大量统计资料知道，男性中红绿色盲的发病率为7% ，女性发病率为

0.5%，如果你问一位男士：“你是否是色盲？”他的回答可能是“是”，可能是“否”，问这两个回答中各含有多少信息量?平均每个回答中含有多少信息量？如果问一位女士，则答案中含有的平均自信息量是多少？

(1) 男性回答是的信息量为log20.073.8369比特，回答否的信息量是0.1047

比特，平均每个回答含的信息量(即熵)是0.36596比特。 (2) 0.比特

2.6 设信源a2a3a4a5a6Xa1，求这信源的熵，并解释为什PX0.20.190.180.170.160.17么HXlog6不满足信源熵的极值性。 提示：信源的概率之和大于1。

2.7 同时掷两个正常的骰子，也就是各面呈现的概率都为1/6，求： (1) “3和5同时出现”这事件的自信息量；

(2) “两个1同时出现”这事件的自信息量；

(3) 两个点数的各种组合(无序对)的熵或平均信息量； (4) 两个点数之和(即2,312构成的子集)的熵； (5) 两个点数中至少有一个是1的自信息量。

解：(1) 4.17(比特/符号)，提示：3和5同时出现的概率为2=1/18

(2) 5.17(比特/符号)，提示：两个1同时出现的概率1/36 (3) “两个点数相同”的概率:1/36,共有6种情况;

“两个点数不同”的概率:1/18,共有15中情况.故平均信息量为: 61536log23618log2184.337比特/符号 (4) 3.274(比特/符号)。提示：信源模型 1236161631184112519653671685369101112 111191218361616116611 36(5) 1.711(比特/符号)。提示：至少有一个1出现的概率为

2.8 证明HX1X2XnHX1HX2HXn

提示：见教材式(2.1.26)和(2.1.28)

2.9 证明HX3X1X2HX3X1，并说明等式成立的条件。

提示：见教材第38页

2

2.10 对某城市进行交通忙闲的调查，并把天气分成晴雨两种状态，气温分成冷

暖两个状态，调查结果得联合出现的相对频度如下：

若把这些频度看作概率测度，求： (1) 忙闲的无条件熵；

(2) 天气状态和气温状态已知时忙闲的条件熵； (3) 从天气状态和气温状态获得的关于忙闲的信息。 解：设X、Y、Z分别表示{忙 闲}、{晴 雨}和{冷 暖}，

X忙闲(1) 先求忙闲的概率分布无条件熵H(X)0.964(比特6340，P(X)103103/符号)

晴冷晴暖雨暖雨冷YZ，H(XYZ)0.859(比特/符号) (2) 20232832P(YZ)103103103103(3) I(X;YZ)=0.105比特/符号

2.11 有两个二元随机变量X和Y，它们的联合概率为

Y 0 1 X 0 1 1/8 3/8 3/8 1/8 并定义另一随机变量ZXY(一般乘积)。试计算： (1) H(X),H(Y),H(Z),H(XZ),H(YZ)和H(XYZ)； (2) H(XY),H(YX),H(XZ),H(ZX),H(YZ),H(ZY),HYXZ和HZXY；

H(XYZ),

3

(3) IX;Y,IX;Z,IY;Z,IX;YZ,IY;Z解：提示：XYZ的联合概率分布

X和IX;ZY。

XYZ000001010011100101110111P(XYZ)1/803/803/80 01/8 XZ的联合概率分布 YZ的联合概率分布XZ00011011 P(XZ)1/203/81/8YZ000110111/203/81/8 P(YZ)11 8Z0Z的概率分布7P(Z)8 (1) 1比特/符号，1比特/符号，0.543比特/符号，1.406比特/符号，1.406

比特/符号，1.811比特/符号

(2) 0.811比特/符号，0.811比特/符号，0.863比特/符号，0.406比特/符号，

0.863比特/符号，0.406比特/符号，0.405比特/符号 (3) 0.189比特/符号，0.137比特/符号，0.137比特/符号，0.458比特/符号，

0.406比特/符号，0.406比特/符号 2.12 略

2.13 设有一个信源，它产生0,1序列的信息。它在任意时间而且不论以前发生过

什么符号，均按p00.4,p10.6的概率发出符号。 (1) 试问这个信源是否是平稳的？

limHX； (2) 试计算HX2,HX3X1X2及N(3) 试计算HX4并写出X4信源中可能有的所有符号。

解：(1) 是

(2) 信源熵0.971比特/信源符号，H(X2)1.942比特/信源符号，由题设知

道这个信源是无记忆信源，因此条件熵和极限熵都等于信源熵。 (3)H(X4)40.9713.884比特/信源符号，

X4信源中可能的符号共16个。

2.14 设XX1,X2,,XN是平稳离散有记忆信源，试证明：

HX1X2XNH(X1)HX2X1HX3X2X1HXNX1X2XN1。 提示：见教材第44页

4

2.15 略

2.16 一阶马尔可夫信源的状态图如题2.16图所示。信源X的符号集为{0,1,2}。

(1) 求平稳后信源的概率分布； (2) 求信源的熵H。

题2.16图

p解：(1)由图得一步转移概率矩阵Pp0p(e1)p(e2)p(e3)p1 30ppp0，状态极限概率p(2)HH11H(p)

2.17 黑白气象传真图的消息只有黑色和白色两种，即信源X{黑，白}。设黑色

出现的概率为p(黑)=0.3，白色的出现概率p(白)=0.7。 (1) 假设图上黑白消息出现前后没有关联，求熵HX；

(2) 假设消息前后有关联，其依赖关系为p(白/白)=0.9，p(黑/白)=0.1，p(白

/黑)=0.2，p(黑/黑)=0.8，求此一阶马尔可夫信源的熵H2(X)；

(3) 分别求上述两种信源的剩余度，比较HX和H2(X)的大小，并说明其

物理意义。

解：(1) 0.881比特/信源符号;

(2) H2(X)p(aibj)log2p(aibj)=0.5533比特/符号;

j1i122(3) 11.9%，44.67%

5

2.18 每帧电视图像可以认为是由3105个像素组成的，所有像素均是独立变化，

且每像素又取128个不同的亮度电平，并设亮度电平是等概率出现，问每帧图像含有多少信息量？若有一个广播员，在约10000个汉字中选1000个汉字来口述这电视图像，试问若要恰当地描述此图像，广播员在口述中至少需要多少汉字？

解：(1)每帧图象包含的信息量

128310511283105log2112831052.1106比特

1000 (2)每1000个汉字提供的信息量log2100001.3288104比特

(3)需要

2.19 略

(1)10001.58105个汉字。 (2)122r22xyX和Y2.20 连续变量的联合概率密度为：px,yr，求

其他02H(XXYI。X(提示：Y),H()Y,(H)和(:)logsinxdxlog22) 022rx12r2x2 解：p(x)p(xy)dyrx2dy 2rrs，yrsin 令 xrco2sin 则 p(x)

r2cos 同理，由函数对称性 p(y)

rr2sin2sinH(X)log2(rsin)drrr 202sinrlog2sinlog2d22222 利用分部积分法、三角函数性质、习题提示并注意自然对数与

以2 为底对数的换算关系可得：

H(X)H(Y)log2r12log2e0.93log2r (比特/符号)

6

H(XY)2xy2r2112logdxdylogr2222rr (比特/符号)

1.652log2rI(X;Y)H(X)H(Y)H(XY)1.862log2r(1.652log2r) (比特/符号)

0.212.21 略 2.22 略

7

第三章习题

3.1 设信源 Xa1a2 P(X)0.60.4通过一干扰信道，接收符号为Yb1,b2，信道传递

56矩阵为1416，求 34(1) 信源X中事件a1和a2分别含有的自信息量。

(2) 收到消息bjj1,2后，获得的关于aii1,2的信息量。 (3) 信源X和信宿Y的信息熵。

(4) 信道疑义度HXY和噪声熵HYX。 (5) 接收到信息Y后获得的平均互信息量。

解：(1) I(x1)0.737(比特/符号)，I(x2)1.322比特/符号，

32(2) p(b1),p(b2)，I(a1;b1)log2551553650.47399(比特/符号),

I(a1;b2)log2261.26316(比特/符号),

I(a2;b1)log2I(a2;b2)log2324513451.26316 (比特/符号),

0.90698(比特/符号)

(3) 0.971(比特/符号)，0.971(比特/符号)，

(4)H(XY)1.6856(比特/符号)，

H(YX)H(XY)H(X)0.7146H(XY)，

(5) 0.2564比特/符号

233.2 设二元对称信道的传递矩阵为1313 23(1) 若P(0)34,P(1)14,求H(X),HXY,HYX和I(X;Y)；

(2) 求该信道的信道容量及其达到信道容量时的输入概率分布。

解：(1) 0.8113比特/符号，0.7498比特/符号，0.9183比特/符号，0.0615比特

/符号，

(2) 0.0818比特/符号，p(0)=p(1)=1/2

8

3.3 设有一批电阻，按阻值分70%是2k，30%是5k；按瓦分64%是1/8W，

其余是1/4W。现已知2k阻值的电阻中80%是1/8W。问通过测量阻值可以得到的关于瓦数的平均信息量是多少？

解：设随机变量X表示电阻的瓦数，Y表示电阻的阻值，则其概率分布为

Xx1(1/8)x2(1/4)Yy1(2k)P(X)0.64，P(Y)0.70.36y2(5K) 0.3已知p(x1y1)0.8，由概率的归一性：p(x2y1)0.2 由p(xiyj)p(xi)p(yjxi),i,j1,2，得

p(x1y1)0.56p(x1y2)0.08p(x2y1)0.14p(x2y2)0.22

再由p(xiyj)p(xiyj)p(yj)411, 得: p(x1y2)15. ,p(x2y2)15代入条件熵计算公式得: H(XY)0.75634(比特/符号)

3.4 参见教材第二章相关内容。 3.5 参见教材第二章相关内容。

3.6 有一个二元对称信道，其信道矩阵为0.980.02。设该信源以1500bits的0.020.98速度传输输入符号。现有一消息序列共有14000个二元符号，并设

p0p11，问从信息传输的角度来考虑，10秒钟内能否将这消息序列

2无失真地传递完？

解：信道容量C=0.8586比特/信道符号，则每秒钟可传送的信息量为

1500×0.859=1288.5比特，10秒钟最大可传送的信息量为12885比特，而待传送的信息量为14000比特，因此，10秒钟内不能无失真的传送完毕。

3.7 仿教材例题3.2.1和3.2.2。

9

3.8 已知一个高斯信道，输入信噪比(比率)为3。频带为3kHz，求最大可能传

送的信息率。若信噪比提高到15，理论上传送同样的信息率所需的频带为多少？

提示：由式(3.5.13)可得。 (1) 最大可能传送的信息率是

Ctwlog2(1PX)3103log2(13)6103比特/秒 PN(2) 1.5kHZ

3.9 略 3.10 略

3.11 已知离散信源 X a1 a2 a3 a4，某信道的信道矩阵为 P(X)0.1 0.3 0.2 0.4b1a1a2a3a40.20.60.50.1b20.30.20.20.3b30.10.10.10.4b40.40.1 0.20.2试求：

(1) “输入a3，输出b2”的概率； (2) “输出b4”的概率；

(3) “收到b3的条件下推测输入a”的概率。 解：由信道矩阵的概念和概率论可得

(1) p(a3b2)p(a3)p(b2a3)0.04；

2(2) p(b4)p(ai)p(b4ai)=0.19；

i14(3) p(b3)0.22,p(a2b3) 3.12 3.13

略

p(a2)p(b3a2)0.1364

p(b3)试证明：当信道每输入一个X值，相应有几个Y值输出，且不同的X值所对应的Y值不相互重合时，有HYHXHYX。

证明：因为I(X;Y)H(X)H(X/Y)H(Y)H(Y/X)，并且由已知可得

10

H(X/Y)0，所以有H(Y)H(X)H(Y/X)

3.14 试求以下各信道矩阵代表的信道的容量：

b1a10 (1)Pa21 1a30 a40 b20001b3 1 0 0 0b4 0 0 1 0 b1a11 a21 (2)Pa30 2a40 a50 a60 b2b30 00010

100101 b7 b8 b9 b100000 00000.40.20.10.3

b1 b2 b3 b4 b5 b6a10.10.20.30.400(3)Pa00000.30.732a3000000解：2比特/信道符号，1.585比特/信道符号，1.585比特/信道符号

3.15 3.16 3.17 3.18

设加性高斯白噪声信道中，信道带宽3kHz，又设{(信号功率+噪声功率)/ 噪声功率}=10dB。试计算该信道的最大信息传输速率Ct。 提示：x的dB 数:10log10x。

PP解: 由题意, 1010log2(1X),(1X)10,故Ct=9.96kbit/s。

PNPN略 略

此题很简单，略。

参见教材相关问题的证明过程。 见教材证明。

3.19 3.20

11

第四章习题

4.1 一个四元对称信源01真矩阵为D11101134123X0，接收符号Y{0,1,2,3}，其失PX1/41/41/41/4110111求Dmax和Dmin及信源的RD函数，并画出其曲线(取410D(1D)ln(1D)奈特/符号， 3至5个点)。

解：Dmin0,Dmax,R(D)ln4Dln1113在R（D）中令D0,,,,,可作图。

4324

4.2 若某无记忆信源1X1011，接收符号Y,，其失真矩阵22PX1/31/31/312求信源的最大失真度和最小平均失真度，11为D并求选择何种信道可21达到该Dmax和Dmin的失真度。 解：Dminp(b1/a1)11,对应的试验信道不是唯一的，但满足p(b1/a2)p(b2/a2)1

p(b2/a3)1Dmaxp(b1/ai)p(b1)4,对应的试验信道不是唯一的，但满足p(b1)p(b2)1 3p(b/a)p(b)22i

4.3 某二元信源1X0PX1/21/2 其失真矩阵为D求这信源的a00aDma,和D函数。 xDminR提示：见公式(4.2.41)。

DDmin0,Dmzx0.5,R(D)1H()



4.4 已知信源X{0,1}，信宿Y{0,1,2}。设信源输入符号为等概率分布，而且失

12

01，求信源的率失真函数RD。 01解：R(D)1D奈特/符号。提示：注意参量S<0, 求 I(X;Y)H(Y)H(Y/X)1D

真函数为D4.5 4.6 4.7 4.8 4.9

略， 略

参见教材p110. 略

设某地区的“晴天”概率p晴5/6，“雨天”概率p雨1/6，把“晴天”预报为“雨天”，把“雨天”预报为“晴天”造成的损失均为a元。又设该地区的天气预报系统把“晴天”预报为“晴天”，“雨天”预报为“雨天”的概率均为0.9；把“晴天”预报为“雨天”，把“雨天”预报为“晴天”的概率均为0.1。试计算这种预报系统的信息价值率v(元/比特)。

晴雨DmaxD(R)， v0.2119(元/比特）7I(X;Y)3030晴雨0.90.10提示：天气信源：51，预报信道矩阵：，失真矩阵： 0.10.9066Dj1解：Dmaxmin预报结果：236，j

4.10 设离散无记忆信源 X a1 a2 a3 其失真度为汉明失真度。 P(X)1/31/31/3(1) 求Dmin,RDmin，并写出相应试验信道的信道矩阵； (2) 求Dmax,RDmax，并写出相应试验信道的信道矩阵；

(3) 若允许平均失真度D1/3，试问信源的每一个信源符号平均最少由几个

二进制码符号表示？

100 010解：(1)Dmin0,R(Dmin)1.585比特/符号，相应的试验信道矩阵为0012(2)Dmax,R(Dmax)0，相应的试验信道矩阵不唯一

3D(3)由教材例题可知R(D)ln3Dln(1D)ln(1D)奈特/符号，

21R()0.231奈特/符号0.331比特/符号，因此每个信源符号最少要用30.331个二进制码表示。

4.11 见教材例题。

13

第五章习题

5.1 设有信源a2a3a4a5a6a7Xa1  P(X)0.20.190.180.170.150.10.01(1) 求信源熵H(X)；

(2) 编二进制香农码；

(3) 计算其平均码长及编码效率。 解：(1) 2.609比特/信源符号

x2x3x4x5x6x7x1(2) 码字： 00000101110010111101111110(3) 平均码长3.14比特/符号，编码效率83.09%

5.2 对题5.1的信源编二进制费诺码，计算其编码效率。

x3x4x5x6x7x1x2解：(1) 码字：， 000100111011011101111(2) 平均码长2.74比特/符号，编码效率95.22%

5.3

对题5.1的信源分别编二进制和三进制赫夫曼码，计算各自的平均码长及编码效率。

x4x5x6x7x1x2x3解：二进制码码字：， 101100000101001100111平均码长2.72比特/符号，编码效率95.92%

三进制码码字：x1x2x3x4x5x6x7， 2000102101112平均码长1.8比特/符号，编码效率91.45%

5.4 设信源

aX11P(X)2a214a318a4116a5132a6a7a811164128128

(1) 计算信源熵；

(2) 编二进制香农码和二进制费诺码；

(3) 计算二进制香农码和费诺码的平均码长和编码效率； (4) 编三进制费诺码；

(5) 计算三进制费诺码的平均码长和编码效率。 解：(1) H(X)1.984375(比特/符号) (2) 二元香农码：

14

信源符号 a1 a2 a3 a4 a5 概率 1/2 1/4 1/8 1/16 1/32 1/64 1/128 1/128 累加概率 log2p(ai) 0 1/2 3/4 7/8 15/16 31/32 63/64 127/128 1 2 3 4 5 6 7 7 ki 累加概率 小数表示 码字 0 10 110 1110 11110 a6 a7 a8 1 2 3 4 5 6 7 7 0.0 0.10 0.110 0.1110 0.11110 0. 0. 0. 5/符号)，编码效率： (3) K1.9843(7比特

H(X)100%100% K二元费诺码码字与香农码相同，顾二者平均码长和编码效率相同。

(4) 三元费诺码： 信源符号 概率 码字 a1 0 0 1/2 a2 1 1 1/4 a3 0 20 1/8 a4 1 21 1/16 a5 0 220 1/32 2 a6 1 221 1/64 2 a7 0 2220 1/128 2 a8 1 2221 1/128 25 (5) K1.3281，(比特/符号)，编码效率：H(X)100%94.27% Klog23 5.5 略

5.6 有二元平稳马氏链，已知p(00)0.8，p(11)0.7，求它的符号熵。用三个

符号合成一个来编二进制哈夫曼码，求新符号的平均码字长度和编码效率。（略）

5.7 对题5.6的信源进行游程编码。若“0”游程长度的截止值为16，“1”游程长度的截止值为8，求编码效率。（略）

15

5.8 选择帧长N=63

(1) 对编LD码；

(2) 对编LD码，再译码； (3) 对编LD码； (4) 对 编LD码；

(5) 对上述结果进行讨论。

解：(1) Q值：2；Q的长度：log2(631)6，Q的编码：, n13,n234

3134163T；的长度：T530log212211

T的编码：

LD码：

(2) (a)编码：

Q值：15；Q的长度：log2(631)6，Q的编码：

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 i ni 1 6 11 13 14 24 27 32 34 37 46 47 48 54 63 1345689101112131415TC0C52C10C12C13C23C7726C31C33C36C45C46C47C53C620101204951287100947657800788872538567100254186856

101505959103891061765514067684844524039799042009305274991992095,646,769,289,47063 T的长度：log26989547 15log21221317342 T的编码：

010,1011,0111, 1110,1011,1111,1110,0000,0000,0000,0000,0000

L-D码：

0,0111,1010,1011,0111, 1110,1011,1111,1110,0000,0000,0000,0000,0000 (b) 译码：Q码，Q=15

1515 C6293,052,749,919,920，C63122,131,734,269,895

1515 显然，C62，故n1563 TC6315T1TC6295,646,769,289,47093,052,749,919,9202,594,019,369,5501414C532,403,979,904,200， C543,245,372,870,670 1414，所以n1454 C53T1C54

Q 15 14 13

K 62 53 47 Q CK93052749919920 2403979904200 140676848445 QCK1 95,646,769,289,470 122,131,734,269,895 2,594,019,369,550 3,245,372,870,670 T15Q nQ 190,039,465,350 192,928,249,269 63 54 48 16

12 11 10 9 8 7 6 5 4 3 2 1 46 38910617655 45 10150595910 36 254186856 33 38567100 31 7888725 26 657800 23 100947 13 1287 12 495 10 120 5 10 0 0 译码：

49,362,616,905 10,451,999,250 301,403,340 47,216,484 8,649,384 760,659 102,859 1,912 625 130 10 0 52,251,400,851 13,340,783,196 348,330,136 52,451,256 10,518,300 888,030 134,596 2,002 715 165 15 1 47 46 37 34 32 27 24 14 13 11 6 1 (3) Q的编码：；T的编码：无。L-D码： (4) 略

(5) L-D编码适合于冗余位较多或较少的情况。N一定,Q的长度确定。T

QQ的长度取决于CN，当Q=[1/2N]时，CN最大，T的位数最长。

5.9 将幅度为3.25V、频率为800Hz的正弦信号输入采样频率为8kHz采样保持

器后通过一个如题图5.1所示量化数为8的中升均匀量化器。试画出均匀量化器的输出波形。

题图5.1

解：采样频率是正弦信号频率的10倍，每个正弦周期内有10个采样点，采样

值及其量化值如下表所示：

i

0 1 2 3 4 17

5 6 7 8 9 xi3.25sinxqi i 50 1.91 3.09 3.09 1.91 0.5 1.5 3.5 3.5 0 -1.91 -3.09 -3.09 -1.91 -3.5 -3.5 -1.5 1.5 -0.5 -1.5 均匀量化器输出如下图示：

5.10 已知某采样时刻的信号值x的概率密度函数p(x)如题图5.2所示，将x通过

一个量化数为4的中升均匀量化器得到输出xq。试求：

2(1) 输出xq的平均功率SE[xq]；

(2) 量化噪声exqx的平均功率NqE[e2]； (3) 量化信噪比S/Nq。

题图5.2

解：依题意，均匀量化器的4个量化区间是

1111[1,]、[,0]、[0,]、[,1]，

22224个量化电平是

3113xq1、xq2、xq3、xq4。

4444

18

由图示概率密度函数

可知，采样值x落入4个区间的概率是

P1P411231p(x)dx、P2P32p(x)dx 0882q41因此

2(1) 输出xq的平均功率SE[x]Pixqi

i1311332[()2()2]

848416(2) 量化噪声exqx的平均功率NqE[e]PiePi(xxqi)2

22i1i14411232[(1x)(x)dx1(1x)(x)2dx]

44213在第一个积分中令tx，在第二个积分中令tx，得

44113124Nq2[1(t)tdt41(x)t2dt] 44441202(12t)t2dt

1 481414(3) 量化信噪比S/Nq

31/9 1648换算成分贝值S/Nq10lg99.54dB

5.11 在CD播放机中，假设音乐是均匀分布，采样频率为44.1kHz，采用16比

特的中升均匀量化器进行量化。试确定50分钟音乐所需要的比特数，并求量化信噪比S/Nq。 解：(1) 44.11031650602.12Gbit

19

(2) 量化级数M216，对于均匀量化器，当输入为均匀分布时，其量化信

噪比

S/NqM2232

换算成分贝值S/Nq320lg296.33dB

5.12 采用13折线A律非均匀量化编码，设最小量化间隔为，已知某采样时

刻的信号值x635。

(1) 试求该非均匀量化编码c，并求其量化噪声e；

(2) 试求对应于该非均匀量化编码的12位均匀量化编码c。 解：(1) 由于x0，极性码c71；

取第1段与第8段的中位第5段进行比较，由于x635128，所以c61； 取第5段与第8段的中位第7段进行比较，由于x635512，所以c51； 取第7段与第8段的中位第8段进行比较，由于x6351024，所以c40， 段落码c6c5c4110；

第7段的起始量化值为512，量化间隔为32；与段内码最高位权值比较，由于

x51263551212325616240，所以c30；

与段内码次高位权值比较，由于

x51212312816112，所以c21；

与段内码次高位和第三位权值之和比较，由于

x5121231286416176，所以c10；

与段内码次高位和最低位权值之和比较，由于

x5121231283216144，所以c00，

段内码c3c2c1c00100；

因此，非均匀量化编码cc7c6c5c4c3c2c1c011100100； 量化噪声exqx6246351116；

(2) 12位均匀量化编码cc11c10c9c8c7c6c5c4c3c2c1c0101001111100。

20

5.13 将正弦信号x(t)sin(1600t)输入采样频率为8kHz采样保持器后通过A律13

折线非均匀量化编码器，设该编码器的输入范围是[-1，1]。试求在一个周期内信号值xisin(0.2i),i0,1,,9的非均匀量化编码ci,i0,1,,9。 解：采样频率是正弦信号频率的10倍，每个正弦周期内有10个采样点，采

样值及其非均匀量化编码如下表所示： i 0 1 2 3 4 5 6 7 8 9 xi(sin0.2i) 0 0.5878 0.9511 0.9511 0.5878 -0 -0.5878 -0.9511 -0.9511 -0.5878 绝对值的量化单位 0 2048 3896 3896 2408 0 2048 3896 3896 2408 极性码 1 1 1 1 1 0 0 0 0 0 段落码 000 111 111 111 111 000 111 111 111 111 段内码 0000 0010 1110 1110 0010 0000 0010 1110 1110 0010 非均匀量化编码

5.14 将正弦信号x(t)Asin2ft进行增量调制，量化增量和采样频率fs的选择既

要保证不过载，又要保证不致因振幅太小而无法工作。试证明fsf。 证：为保证不过载，

fdx(t)2fAcos(2ft)max2fAfs，即As

2fdtmax为保证振幅足以分辨，A

2f故As，即fsf 22f

5.15 将正弦信号x(t)0.25sin(400t)输入采样频率为4kHz采样保持器后通过增量调制器，设该调制器的初始量化dq00，量化增量0.125。试求在半个周期内信号值xi0.25sin(0.1i),i0,1,,9的增量调制编码ci和量化值xi,i0,1,,9。

解：采样频率是正弦信号频率的20倍，半个周期内有10个采样点，采样值、

增量调制编码及量化值如下表所示：

i 0 1 2

xi0.25(sin0.1i) 0 0.0773 0.1469 预测值~xi 0 -0.125 0 量化dqi -0.125 0.125 0.125 21

增量调制编码ci 0 1 1 量化值xi -0.125 0 0.125 3 4 5 6 7 8 9 0.2023 0.2378 0.25 0.2378 0.2023 0.1469 0.0773 0.125 0.25 0.125 0.25 0.125 0.25 0.125 0.125 -0.125 0.125 -0.125 0.125 -0.125 -0.125 1 0 1 0 1 0 0 0.25 0.125 0.25 0.125 0.25 0.125 0

5.16 将正弦信号x(t)0.25sin(400t)输入采样频率为4kHz采样保持器后通过差分

脉冲编码调制器，设该调制器的初始值dq00，~x00，采用码长为4的均

匀量化编码，量化间隔0.03125。试求在半个周期内信号值

xi0.25sin(0.1i),i0,1,,9的差分脉冲编码ci和量化值xi,i0,1,,9。 解：采样频率是正弦信号频率的20倍，半个周期内有10个采样点，采样值、

差分调制编码及量化值如下表所示： i 0 1 2 3 4 5 6 7 8 9 xi0.25(sin0.1i) 预测值~xi 0 0 0.0773 0 0.1469 0.0625 0.2023 0.1563 0.2378 0.1876 0.25 0.2501 0.2378 0.2501 0.2023 0.2501 0.1469 0.1876 0.0773 0.1563 量化dqi 0 0.0625 0.0938 0.0313 0.0625 -0 -0 -0.0625 -0.0313 -0.0938 差分调制编码ci 1000 1010 1011 1001 1010 0000 0000 0010 0001 0011 量化值xi 0 0.0625 0.1563 0.1876 0.2501 0.2501 0.2501 0.1876 0.1563 0.0625

x(z)x(z)的低通滤波器5.17 M2的子带编码如题图5.3所示。试证明要求~~~Hl(z)、Hl(z)和高通滤波器Hh(z)、Hh(z)满足：

~~Hl(z)Hl(z)Hh(z)Hh(z)2 ~~Hl(z)Hl(z)Hh(z)Hh(z)0Hl(z)22 …

22~Hl(z)×

x(z)Hh(z)…

题图5.3

~Hh(z)~x(z)~(z)、u(z)、u~(z)如图： 证：设ul(z)、ulhh

x(z)

ul(z)Hl(z)2… …

~(z)ul2~Hl(z)~x(z)uh(z)Hh(z)2~(z)× uh~22 Hh(z)2

1由抽取，得ul(z)[Hl(z2)x(z2)Hl(z2)x(z2)]

211111uh(z)[Hh(z2)x(z2)Hh(z2)x(z2)]

2~(z)u(z2)1[H(z)x(z)H(z)x(z)] 由内插，得ullll2~(z)u(z2)1[H(z)x(z)H(z)x(z)] uhhhh2~~~(z)H~令~x(z)Hl(z)ulh(z)uh(z) 1~1~Hl(z)[Hl(z)x(z)Hl(z)x(z)]Hh(z)[Hh(z)x(z)Hh(z)x(z)] 2211~~~~[Hl(z)Hl(z)Hh(z)Hh(z)]x(z) [Hl(z)Hl(z)Hh(z)Hh(z)]x(z) 22x(z) ~~Hl(z)Hl(z)Hh(z)Hh(z)2故 ~~Hl(z)Hl(z)Hh(z)Hh(z)01111

23

第六章习题

6.1 奇校验码码字是c(m0,m1,,mk1,p),其中奇校验位p满足方程

m0m1mk1p1 mod 2

证明奇校验码的检错能力与偶奇校验码的检错能力相同，但奇校验码不是线性分组码。 证明提示：

奇数个差错的发生总导致校验方程不满足。全0向量不是奇校验码码字。

6.2 一个(6,2)线性分组码的一致校验矩阵为

h1hH2h3h41000100011 0010101110(1)求hi,i1,2,3,4使该码的最小码距dmin3。 (2)求该码的系统码生成矩阵Gs及其所有4个码字。 解题提示：

(1)对H作行初等变换得

h1hhH21h3h1h4h2h31000110010 1010001000要使最小码距等于3，有h1, h1h2, h1h3, h4h2h3中任意两项为1，其余为零。当要使最小码距大于3，有h1, h1h2, h1h3, h4h2h3中三项或四项均为1，其余为零。有上述关系可以求得一组或多组关于hi,i1,2,3,4的解。 (2)对H作行初等变换得

h4h2h3hhH31h2h1h10100010100QTI r10010kr10001

6.3 一个纠错码消息与码字的对应关系如下：

24

(00)—(00000)，(01)—(00111)，(10)—(11110)，(11)—(11001) (1)证明该码是线性分组码

(2)求该码的码长，编码效率和最小码距。 (3)求该码的生成矩阵和一致校验矩阵。 (4)构造该码BSC上的标准阵列。

(5)若在转移概率p103的BSC上，消息等概发送，求用标准阵列译码后的码

字差错概率和消息比特差错概率。

(6)若在转移概率p103的BSC上消息0发送概率为0.8，消息1发送概率为

0.2，求用标准阵列译码后的码字差错概率和消息比特差错概率。

(7)若传送消息0出错的概率为104，传送消息1出错的概率为102，消息等概

发送，求用标准阵列译码后的码字差错概率和消息比特差错概率。 解题提示：

(1)任意两个码字的和是另一个码字且全零向量为码字。 (2)码长为向量长，即n5。码字数为4，故R码字的重量为minwd3。

11110(3)因为码字数为4，任意两非零码字构成生成矩阵的行向量G。按G00111logqMnlog242。最小非零5511110与H正交的条件，解得H的一种可能情况等于11000。

01101(4)标准阵列见题表(3.1)。

题表(3.1) 标准阵列

c0＝00000 00000 00001 00010 00100 01000 10000 10010 10100 c1＝00111 00111 00110 00101 00011 01111 10111 10101 10011 c2＝11110 11110 11111 11100 11010 10110 01110 01100 01010 c3＝11001 11001 11000 11011 11101 10001 01001 01011 01101 e0＝00000 e1＝00001 e2＝00010 e3＝00100 e4＝01000 e5＝10000 e6＝10010 e7＝10100

25

(5)按题解(4)的标准阵列译码，记Ac是标准阵列中码字c对应的列，E是包括

无错图案和全部可纠正差错图案的集合，那么码字差错概率为

P(e)1P(c)P(rceA)1P(c)P(e)WccCcCeE 1P(c)P(e) (P(c)均匀分布，信道差错均匀分布)

cCeE1543 141p5p1p2p21p4记消息比特差错概率为Pb(e)，消息向量差错概率为PB(e)，注意到该码是非系统码以及消息向量长为2，则应有

PW(e)PB(e)1PB(c)11Pb(e)

23Pb(e)11PW(e)11p12p5p2p

2(6)码字差错概率计算中

P(c0)0.80.8，P(c1)P(c2)0.80.2，P(c3)0.20.2

P(e)1p5p1p2p21p

eE543

消息比特差错概率：

10.88p1p0.28p1p0.81p0.21p

222222(7)码字差错概率计算中

P(c0)P(c1)P(c2)P(c3)14

1142221P01P02P1104110 11P12P104消息比特差错概率：

11142221101108104110481021102 44码字差错概率和消息比特差错概率相等。

6.4 证明(2m1,m)最大长度码(simplex码)可以由1阶(2m,m1)Reed-Muller码缩短

(shortening)构成。 证明提示：

证明一阶RM缩短码是极长码等价于证明一阶RM缩短码是汉明码的对偶码。

26

可(n2m1,knm)汉明码的校验矩阵是其对偶码(2m1,m)的生成矩阵，表为H，在汉明码的对偶码基础上构造一阶(2m,m1)RM码生成矩阵为G，

00H010010111011， G11001mn010011111 1101(m1n)显然RM码的一位缩短码就是对偶汉明码的校验矩阵，所以命题得证。

6.5 证明线性分组码的码字重量或者为偶数(包括0)或者恰好一半为偶数(包括0)

另一半为奇数。 证明提示：

若码字重量全为奇数，则码不含全零码字，故不是线性码。

若码字重量全为偶数，则任意两偶数重量的码字c与c'相加仍为偶数重码字，故所有码字均可以是偶数重码字。

若M0个偶数重量的码字集合c{c}和M1个奇数重量码字为集合c，则根据二元线性分组码的任意码字重量满足wHcc'wHcwHc'2wHcc'可

cM0M1。又对cc，所以c1得：对固定的奇数重码字c1有c1任意奇数重码字cj，j2,3,,M1，由c1cj而有，

c1cjj2,3,,M1c，所以M11M01，由此证明M0M1。

6.6一个通信系统消息比特速率为10 Kbps，信道为衰落信道，在衰落时间(最大为2 ms)内可以认为完全发生数据比特传输差错。 (1)求衰落导致的突发差错的突发比特长度。 (2)若采用Hamming码和交织编码方法纠正突发差错，求Hamming码的码长

和交织深度。

(3)若用分组码交织来纠正突发差错并限定交织深度不大于256，求合适的码

长和最小码距。

(4)若用BCH码交织来纠正突发差错并限定交织深度不大于256，求合适的码

长和BCH码生成多项式。 解题提示：

(1)突发长度为b10103210320bits。

(2)汉明码可纠正t＝1个差错，所以交织深度D为b/t20。由于没有延迟限

制，所以任何码长汉明码均可。

27

(3)由bDt256t256d12，以及dnk1设计。

6.7 若循环码以g(x)1x为生成多项式，则 (1)证明g(x)可以构成任意长度的循环码； (2)求该码的一致校验多项式h(x)； (3)证明该码等价为一个偶校验码。 解题提示：

(1)由xn1(x1)(xn1xn2xn31)， 1x总是xn1的因子。 (2)一致效验多项式为h(x)xn1/g(x)1xx2xn1。

(3)对生成矩阵作行初等变换总能获得偶校验码的生成矩阵形式。

1000101100000001001000行初等变换11000011(n1)n00001001 101011(n1)n

6.8 已知循环码生成多项式为g(x)1xx4，分别做

(1)求该码的最小码长n，相应的一致校验多项式h(x)和最小码距d； (2)求该码的生成矩阵，一致校验矩阵，系统码生成矩阵；

(3)画出该码的k级系统码编码电路图，给出编码电路的编码工作过程； (4)若消息为m(x)xx3x4，分别由编码电路和代数计算求其相应的码式

c(x)；

(5)画出该码的伴随式计算电路图，给出伴随式计算电路的工作过程； (6)若错误图样为e(x)x2x9，分别由伴随式计算电路和代数计算求其相应的

伴随式s(x)；

(7)若消息长度大于n4，由(2)小题给出的编码电路产生的输出v(x)是什么？

v(x)仍可以用(5)小题给出的伴随式计算电路判断是否有传输差错吗？ 解题提示：

(1)最小码长为15。最小码距为3。 (3)电路图题图(8.1)所示。

28

G1m(x)G2C(x)

题图(8.1)

工作时序题表(8.1)所示。

题表(8.1)

时钟t t0tktk1tn1门控信号G1/G2 1/0 0/1 输入m(x) m(x) 0 输出c(x) xrm(x)(xm(x))modg(x)r

(6)代数计算得s(x)e(x)modg(x)(x9x2)mod(x4x1)x3x2x。

6.9 已知(8,5)线性分组码的生成矩阵为

10G000000011110001000100010，

00100010001111(1)证明该码为循环码；

(2)求该码的生成多项式g(x)，一致校验多项式h(x)和最小码距d。 解题提示：

(1)行等价生成矩阵为

10000110001110011110011110011100011000 0158(2)生成多项式为g(x)1xx2x3，校验多项式为h(x)1xx4x5，最小码

距为2。

29

6.10 已知(7,4)Hamming码生成多项式为g(x)1x2x3，证明用此码进行交织深

度为3的交织后为生成多项式为g*(x)g(x3)1x6x9的(21,12)循环码。 证明提示：交织后的码字为

c(x)(a00a01x3a02x6a03x9)(1x6x9) x(a10a11x3a12x6a13x9)(1x6x9) x2(a20a21x3a22x6a23x9)(1x6x9)

以及多项式x211(x12x9x61)(1x6x9)。

6.11一通信系统信道为转移概率p103的BSC，求下列各码的重量分布

Ai , i0,1,2,,n和不可检差错概率。

(1)(7,4)Hamming码。

(2)(7,3)最大长度码(simplex码)。 (3)(8,4)扩展Hamming码。 (4)(8,1)重复码。 (5)(8,7)偶校验码。 解题提示：

(1)二元Hamming码的重量分布多项式为：

Ax17x37x4x7

(2)(7,3)最大长度码是等重码，A47。

(3)(8,4)扩展Hamming码扩展后，Ax114x4x8 (4)因为只有两个码字和所以A01, A81。 (5)因为是偶校验，可知码字重量为偶数

4466Ax1C82x2C8xC8xx8

6.12 证明(n,k)循环码可以检测出所有长度不大于nk的突发差错。

证明提示：假设错误图样e(X)XjB(X), 0jn1,B(X)次数等于或小于

nk1，则g(X)除不尽B(X)。又g(X)和Xj互素。所以e(X)XjB(X)不能被g(X)除尽。

30

6.13 Fire(法尔)码是常用于检测或纠正突发差错的(n,k)循环码，其生成多项式

g(x)为

g(x)(xl1)p(x) 其中p(x)为次数m(次数m与l互素)的不可约多项式，即p(x)不能分解为次数更低的多项式的乘积。

(1)证明Fire码码长nLCM(l, 2m1)，这里LCM(a,b)表示a,b两数的最小公倍

数。

(2)证明Fire码可以检测出长度blm的单个突发差错。 证明提示(参考第12题)。

6.14 以太网协议所用的CRC码是生成多项式g(x)如下的二进制码

g(x)x32x26x23x22x16x12x11x10x8x7x5x4x2x1

(1)估计该码的不可检差错概率。

(2)如果分组长度限制为1024，如何改造此码最佳？ 解题提示：

(1)不可检错概率232。

6.15 ATM协议对帧头4字节(32比特)地址和路由信息校验所用的8比特CRC

码生成多项式为g(x)

g(x)x8x2x1

在实际应用中是以此码构造一个最小码距为d4的(40,32)码，讨论其构造方法。 解题提示：利用循环码缩短方法。

6.16 对如下由子生成元或生成序列确定的(A)(B)(C)(D)4个卷积码， (A)g(1,1)(10), g(1,2)(11)，

)， (B)g(1,1)(110), g(1,2)(101(C)g(1,1)(111), g(1,2)(111), g(1,3)(101)，

(D)g(1,1)(10), g(1,2)(00), g(1,3)(01)，g(2,1)(11), g(2,2)(10), g(2,3)(10) 分别做

31

(1)求多项式生成矩阵G(x)，生成矩阵G，渐进编码效率R，约束长度K，状

态数M。

(2)画出简化型的编码电路图。 (3)画出开放型的状态转移图，栅格图。 (4)求自由距离df。

(5)求消息u(100110)的卷积码码字序列v(v0,v1,v2,)。 (6)在栅格图上画出消息u(100110)的编码路径。 解题提示： (1)

(A)G(x)1 1x，R=1/2，Km12，M2，

23RKm131x 1xM28， (B)G(x)，=1/2，， 01  11 01  11 10  G(1B00 11 1 01 G(1-A)00 11 01  -)0     (2)简化型的编码电路图见题图(16-1A)和题图(16-1B)

v1u1+v1u1+v2+v2

题图(16-1A) 题图(16-1B)

(3)开放型的状态转移图和栅格图见题图(16-2A1)、图(16-2A2)和题图(16-2B1)图(16-2B2)。

(00/0,11/1)S0S0'(01/0,10/1)S1S1' 题图(16-2A1)

32

0S01234(00,11)S1(01,10)

题图(16-2A2)

(00/0,11/1)S0S0'(01/0,10/1)S1S1'(10/0,01/1)S2S2'(11/0,00/1)S3S3' 4题图(16-2B1)

S00(00,11)123S1(01,10)S2(10,00)S3(11,00)

题图(16-2B2)

(4)自由距离分别为：A-3，B-4，C-8，D-2。

(5)考虑补零，A：11 01 00 11 10 01；B：11 10 01 11 01 11 01。

6.17 举例说明(16)题(B)码是一个恶性码，即少数差错可能导致无穷多差错。 解题提示：考查寄存器状态为全1时输入导致的输出。

33

6.18 对题图(18)中的(A)，(B)两卷积码分别做

消息u(x)

消息u(x) 码字v(x)

码字v1(x) 码字v2(x) 题图(6.18-A) 题图(6.18-B)

(1)求卷积码的生成序列g(i,j)，多项式生成矩阵G(x)，生成矩阵G，渐进编码

效率R，约束长度K，状态数M。 (2)求自由距离df。

(3)画出开放型的状态转移图，栅格图。

)的卷积码码字序列v(v0,v1,v2,)。 (4)求消息u(100110)的编码路径。 (5)在栅格图上画出消息u(100110)的相应码字序列v(v0,v1,v2,)在BSC上传送，差错图案(6)若消息u(100110ˆ与uˆ。 )，给出Viterbi译码的译码过程和输出v是e(1000000(7)判断是否是恶性码。

解题提示：

R1，G(x)1x，(1-A)g(1,1)(11)，，K112, nA2n212，M212。

kn11 00 G00 11 00   (2-A)自由距离为2。

6.19 第三代移动通信(3GPP)建议的12码率，约束长度K9的卷积码(G(x)八进

制表示)为

g(1,1)(x)(561)8 , g(1,2)(x)(753)8 (1)写出此码的G(x)正规多项式表示式，求状态数M。 (2)画出此码的电路图。

(3)求此码的标准Viterbi译码在一个时隙内要做的ACS操作数。

34

(4)若信道为转移概率p103的BSC，估计采用此码和Viterbi译码后的误码率。 (5)若信道采用的调制方式为双极PSK，估计信道转移概率为p103时的编码

增益。 解题提示：

(1)g(1,1)(x)(561)8 , g(1,2)(x)(753)8

g(1,1)(x)(101110001)21+x2+x3+x4+x8 ,g(1,2)(x)(111101011)21xxxxxx23578

234823578Gx1+x+x+x+x1xxxxxx

(2)

DD+++D++D+DDDD++++

(3)译码深度L10nm1比特

6.20 解释卷积码译码(如Viterbi译码)为什么在译码端所用的记忆单元数越多(大

大于发送端的记忆单元数)，则获得的译码差错概率越小(越逼近理想最佳的最大似然译码)。 解题提示：当译码译码端所用的记忆单元数大于发送端的记忆单元数时，译

码序列就有充足的空间回到全零状态，如果发生错误译码，则错误序列也会汇合到全零状态。

35

第七章习题

7.1 用维吉尼亚密码加密，已知p  polyalphabetic cipher，密钥K  RADIO，试

求密文。

解：设a~z的编码分别是0~25。

根据加密算法cipiki (mod 26)，其中pi,ci,ki分别表示第i个明文、密文和密钥字母编码公式，可以得到： 密钥： 明文： 密文：

7.2 描述DES数据加密算法的流程。

解：DES对64位的明文分组进行操作。通过一个初始置换，将明文分组分成

左半部分和右半部分，各32位长。然后进行16轮完全相同的运算，这些运算被称为函数f。分别用16个不同的子密钥（由外部密钥产生）控制每一轮变换。一轮变换有4个操作步骤：扩展、密钥加、s盒代替、p盒置换。这4个步骤仅对右半部分的32位进行操作，结果与左半部分的32位混合后作为本轮右半部分的输出，而左半部分的输出直接复制右半部分的输入。经过16轮后，左、右半部分合在一起，经过一个末置换(初始置换的逆置换)，这样该算法就完成了。 7.3 明文

6118的希尔密码加密，7145p  themachineisnotbreakable，若用密钥K101621R A D I O R A D I O R A D I O R A D I O p o l y a l p h a b e t i c c i p h e r G O O G O C P K I P V T L K Q Z P K M F 求密文。

解：设a~z的编码分别是0~25。

根据希尔密码加密公式：

c1k11k12c2=k21k22c3k31k32k13k23k33p1p2 p3其中 pi,ci,ki分别表示第i个明文、密文和密钥字母编码，然后把明文p 

36

themachineisnotbreakable三个一组分别计算，明文the，字母编码为19、7、4，那么三个字母被表示为向量[19 7 4]计算为：

61181921571457=251 1016213864运算结果为(215 251 386)(mod 26)= (7 17 22)=HRW

同理计算第2组明文mac，字母编码为12、0、2，然后计算，取模，转化成相关字母，接着计算后面的三个明文字母，以此类推。 密文：HRW KQG ASD WWA USZ ZXC GKE LXK

7.4 古典密码体制和现代密码体制的主要区别是什么？

解：古典密码体制和现代密码体制的主要区别是：古典密码体制数据的加密

基于加密算法的保密，而现代密码体制的数据的加密基于密钥保密，而不是加密算法的保密。

7.5 公钥密码体制的一般定义是什么？

解：1976年W.Diffie和M.E.Hellman提出的一种新型密码体制，即公钥密码体制。在公钥体制中，加密密钥不同于解密密钥，加密密钥公之于众，谁都可以使用；解密密钥只有解密人自己知道，分别称为公钥 (Public key) 和私钥 (Private key)。这种体制能够奏效的关键是利用了某些函数的单向性。要求设计的体制满足：（1）密钥产生容易，且密钥空间足够大；（2）合法用户解密容易，非法用户由公钥和密文不能推知明文；（3）已知密文和生成该密文的公钥，不能推知对应的私钥，并且在已知公钥、任选明文和对应的密文情况下仍不能推知用户私钥。满足上述条件的体制称为公钥密码体制。若还满足加解密变换的交换性，则体制可进行数字签名。

7.6 在RSA公钥密码系统中，如果截取了发送给其他用户的密文C  10，如果

此用户的公钥为e  5，n  35，请问明文的内容是什么？ 解：利用幂剩余的周期性：

C1Ce105(mod 35)=5 C2C155510(mod 35)C

所以 m5

37