A.对与同一平稳信源X,其发出的前后两个符号的平均信息量相同
B.一般情况下,输出两个符号的联合熵总是小于等于二倍信源的熵
C.序列的关联是可以延伸到无穷的
D.上面选项都错误
(1)证明如果离散信源的失真矩阵足行准对称失真矩阵,且在划分的子矩阵中信源输入符号的概半相等,那么通过与失真地阵具有同样对称性且满足失真约束的试验信道可以达到R(D)。
(2)一个包含3符号的信源X。符号集为{-1,0,1},概率分别为: p,1-2p,P, (p≤1/2):试验信道输出Y,符号集含2个符号{-1,1},失真测度为求R(D)函数。
组,用与其汉明距离最近的汉明码码字所对应的4位信息符号来代表,通过无噪声信道进行传输:在接收端,用接收的4位信息符号所对应的码字表示信源分组。
(1)求编码器的码率和编码系统的平均失真。
(2)将(1) 的结果与R(D)比较(设失真测度为汉明失真)。
(3)对于任意1,应用(2-1,2 -l-1)汉明编码,求码率和平均失真。
(1) H(SX) () H(X);
(2)h(U) () h(U):
(3) H(X|Y) () H(X|YZ);
(4) H(XY) () H(X)+ H(Y):
(5) I(f(U):g(V)) () I(U;V)。
设信源模型为
(1)码符号集为X= {0,1,2},试对信源进行Huffman编码并求平均码长、编码效率和编码后信息传输速率。
(2)构造一种有约束的具有最小平均长度的异前置码,此约束是每个码字的第1个符号可以是0,1,2;后续的符号为0或1。
有一叠加性噪声的信道,输入符号x是离散的,取值+1或-1,噪声N的概率密度为则输出的Y=X+N是一个连续变量。
(1)求这一半连续信道的容量。
(2)若在输出端接一检测器也作为信道的一部分,检测输出变量为Z有当Y >1,则Z=1;1≥Y≥-1,则Z=0; Y<-1,则Z=-1,这就成为了一个离散信道,求它的容量。
(3)若检测特性改为:当Y≥0,则Z=1;当Y<0,则Z=-1.求这离散估道的容量。
(4)从上面结果可见,(2)的检测器无信息损失,而(3)则不然:若噪声特性改为试构成一个不损失信息的检测器。