在通过一一对应的变换后，连续信源的差熵一定会变化；

在某地区篮球联赛的每个赛季，最终只有A、B两球队进入决赛争夺冠军。决赛采用7场4胜制，首先赢得4场胜利的球队获得冠军，并结束比赛。把产生冠军的事件x用A、B两队各场次的比赛结果表示，作为信源X产生的随机事件，例如：AAAA表示事件“A队胜前4场获得冠军”；ABBAAA，表示事件“A队在第1、4、5、6场取胜获得冠军(而B队在第2、3场取胜)”，…。假设两球队在每场比赛中的取胜机会均等，每场比赛只有“A胜”或“B胜”两种结果，并且各场比赛的结果是彼此独立的。

AWGN信道容量的大小与系统的带宽成正比

三个随机变量集合X、Y、Z，其中Y、Z独立。

在信息处理过程中熵不会增加；

在一个布袋中有3枚硬币，分别用H、T、F表示，H的两面都是正面，T的两面都是反面，而F是一个一正一反的均匀硬币。随机选择一枚硬币并投掷两次，用X表示所选择的硬币，Y₁，Y₂表示两次投掷的结果，Z表示两次投掷中出现正面的次数。求：

假定X1→X2→X3→…→Xn形成一个马尔可夫链,那么p(x1x2…xn)...

X是n维连续型随机矢量，Y=AX是X的线性变换，并且A是一个n×n的非奇异矩阵，证明h(Y)=log₂|det(A)|+h(X)。

盒子里有两枚偏畸硬币，硬币1正面向上的概率为p，硬币2正面向上的概率为1-p，0＜p＜0.5。随机取一枚硬币并且连续投掷。用Z∈{1，2}表示所选择的硬币，X₁，X₂，X₃，…表示每次投掷的结果(正面或反面)。

一信源产生的时不变波形信号(即信号统计特性不随时间而变)的带宽W=4kHz，幅度分布为

在一个3×3的国际象棋棋盘上，分别计算“王”、“车”、“左象”、“右象”和“后”随机行走的熵率。