1信息论重点题型

《1信息论重点题型》由会员分享，可在线阅读，更多相关《1信息论重点题型（1页珍藏版）》请在文档大全上搜索。

1设X、Y是两个相互独立的二元随机变量，其取0或1的概率相等。定义另一个二元随机变量Z=XY(一般乘积)。试计算以下几个信息量。(1) H?X?,H?Z?;(2) H?X|Y?,H?Z|X?;?11?H?X?H?,?1bit?22?31?H(2)?H?,?0.8113bit?44?(2)H?X|Y?H?X?1bitH?Z|X?11?11?H?1,0?H?,?0.5bit22?22?2一副充分洗乱了的牌(含52张牌)，试问：(1) 任一特定排列所给的信息量是多少？(2) 若从中抽取13张牌，所给点数都不同时得到多少信息量？解：(1) 52张牌共有52！种排列方式，任一特定的排序方式是等概率出现的，则所给出的信息量是：p(xi)?152!I(xi)?logp(xi)?log52!?225.581bit(2) 52张牌共有4种花色、13种点数，从中抽取13张点数不同的牌的概率如下：413p(xi)?13C52I(xi)?logp(xi)?log3设两离散信道矩阵为4?13.208bit13C5213