第三章 信道与信道容量 习题解答

《第三章 信道与信道容量 习题解答》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第三章信道与信道容量习题解答1.设信源通过一干扰信道，接收符号为信道传递矩阵为，求；（1）信源中符号和分别含有的自信息量。（2）收到消息后，获得的关于的信息量。（3）信源和信宿的信息熵。（4）信道疑义度和噪声熵。（5）接收到信息后获得的平均互信息量。解：（1）符号含有的自信息量：符号含有的自信息量：（2）根据信道转移概率：计算联合概率：：计算信宿端概率：：计算后验概率：：计算互信息量：：收到消息后获得的关于的信息量：收到消息后获得的关于的信息量：收到消息后获得的关于的信息量：收到消息后获得的关于的信息量：（3

2、）信源熵：信宿熵：1（4）信道疑义度：噪声熵：（5）平均互信息量：2．有一个生产A、B、C、D四种消息的信源其出现的概率相等，通过某一通信系统传输时，B和C无误，A以1/4概率传为A，以1/4概率误传为B、C、D，而D以1/2概率正确传输，以1/2概率误传为C，（1）试求其可疑度？（2）收到的信号中哪一个最可靠？（3）散布度为多少？解：（1）先写出：再根据式求各联合概率：同样得求Y端概率空间的各：同样得2，，求联合熵：比特/每对消息信宿熵：比特/消息得可疑度：比特/消息（2）接收可靠的依据是根据下式求，越大表

3、示越可靠：可见接收信号A最可靠。（3）计算信源熵：得散布度：比特/消息3.设二元对称信道的传递矩阵为（1）若，，求，，和；（2）求该信道的信道容量及其达到信道容量时的输入概率分布。解：（1）先写出：根据公式计算联合概率：信宿端符号分布概率：根据公式计算：3求各熵：信源熵：比特/消息信宿熵：比特/消息可疑度：比特/消息平均互信息量：比特/消息噪声熵：比特/消息（2）二元对称离散信道的信道容量：比特/秒信源等概分布时（）达到信道容量。4.某一个二元通信系统，等概率分布发送消息：p(0)=p(1)=0.5，由于噪声

4、干扰，信号对称信道，其差错率为1%，计算该通信系统的可疑度和平均互信息量。解：可疑度=理想观察者提供的附加熵：，信源熵：平均互信息量：5.设有一批电阻，按阻值分70%是2，30%是5，按功耗分64%是1/8W，其余是1/4W。现已知2阻值的电阻中80%是1/8W，问通过测量阻值可以平均得到的关于瓦数的信息量是多少？解：设将电阻按阻值分类看成概率空间X：，按功耗分类看成概率空间Y：，已知：，，通过计算，得通过测量阻值获得的关于瓦数的平均信息量：6.有一以“点”和“划”构成的老式电报系统，“点”的长度为30毫秒，

5、“划”的长度为150毫秒，“点”和“划”出现的4概率分别为0.8和0.2，试求信息速率为多少？“点”、“划”出现的概率相等时，信息速率为多少？是否“点”、“划”出现的概率相等时信息速率一定最高？是否和理论相矛盾？为什么？解：信源熵：比特/消息单位时间的符号数：消息/秒信息速率：比特/秒如果点、划出现的概率相等时，则信源熵：比特/消息单位时间符号数：消息/秒信息速率：比特/秒可见等概率时，信息速率反而降低了。但与理论不矛盾，因为信息速率不光与信源熵有关，还与每秒发送的符号数有关，该信源的两个消息是非同价代码（每

6、个码元(消息)的时间长度不同），等概率时，信源熵提高了，但每秒发送的符号数下降了，因此才有此结果。7.一个通信系统，信源消息由A、B、C、D四个字母组成，采用二元代码对信源编码为A：00、B：01、C：10、D：11，假设系统传输每个二元代码需要5ms，（1）若信源各字母等概率出现，计算其信源熵速率；（2）若信源各字母出现的概率为：p(A)=1/5，p(B)=1/4，p(C)=1/4，p(D)=3/10，计算其信源熵速率。解：（1）信源每秒输出的字母数：信源熵：信源熵速率：（2）信源熵：信源熵速率：8.有一传

7、输“0”和“1”的二元数字通信系统，以1000码元/秒的速率传输，传送“0”和“1”的概率分别为：，由于信道有噪声，误码率为，试求接收的信息速率？解：先写出信道转移概率：5根据公式计算联合概率：求信宿端符号概率分布：根据公式计算后验概率：求可疑度：信源熵：比特/消息平均互信息量：比特/消息得接收熵速率：比特/秒9.有一个传输“0”和“1”的二元数字通信系统，以平均1000码元/秒的速率传输，传送“0”和“1”的概率相等，由于信道有噪声，误码率为0.15，（1）试求信道可疑度；（2）计算信源熵速率和接收熵速率；

8、（3）现有一消息共有4000个二元符号，无失真地传递完该消息需要多少时间？解：（1）信道可疑度：（2）信源熵速率：接收熵速率：（3）一消息共有4000个二元符号，该消息的信息量：无失真地传递完该消息所需的时间：10.有一个二元对称信道，其信道矩阵为，设该信源以1500符号/秒的速度传输输入符号。现有一消息序列共有14000个二元符号，并设其符号等概分布，问从信息传输的角度来考虑，10秒钟内能否将这消