一离散无记忆信道如图所示:
a)写出该信道的转移概率矩阵;
b)该信道是否为对称信道?
c)求该信道的信道容量;
d)求达到信道容量时的输出概率分布;
e)求达到信道容量时的输入概率分布。
设一个离散无记忆信道的输入、输出符号集均为{0,1,2,3},信道的概率转移矩阵为
其中,1/3<ω<1/2。设输入符号的概率分别为p(0)=1/2,p(1)=1/4,p(2)=1/8,
p(3)=1/8。求:最佳译码准则的判决函数和平均译码错误率。
设一离散无记忆信道的输入符号集为{a1,…,aK},输出符号集为{b1,…,bJ},信道转移概率为p(bj|ak),k=1,…,K;j=1,…,J。若译码器以概率γkj(k=1,…,K;j=1,…,J)对收到的bj判决为ak。试证明对于给定的输入分布,任何随机判决方法得到的错误概率不低于最大后验概率译码时的平均译码错误概率。
设离散无记忆信源X通过离散无记忆信道{X,PY|X,Y}传送信息,设信源的概率分布为:
信道线图如图所示。
试求:
(1)从输出符号bj(j=1,2)中所获得的关于输入符号ai(i=1,2)的信息量;
(2)信源X和信道输出Y的熵;
(3)信道损失熵H(X|Y)和噪声熵H(Y|X);
(4)从信道输出Y中获得的平均互信息量I(X;Y)。