信息論與編碼章節(jié)練習(xí)(2020.06.02)

對(duì)于離散無記憶強(qiáng)對(duì)稱信道，信道矩陣為：

試證明對(duì)于此信道，最小距離譯碼準(zhǔn)則等價(jià)于最大似然譯碼準(zhǔn)則。

設(shè)有一離散信道，其信道矩陣為，求
（1）最佳概率分布？
（2）當(dāng)P（x₁）=0.7，P（x₂）=0.3時(shí)，求平均互信息I（X;Y）和信道疑義度H（X/Y）；
（3）輸入為等概分布時(shí)，試寫出一譯碼規(guī)則，使平均譯碼錯(cuò)誤率p_E最小，并求此p_E.

信源空間為：
，試分別構(gòu)造二元香農(nóng)碼和二元霍夫曼碼，計(jì)算其平均碼長(zhǎng)和編碼效率（要求有編碼過程）。