简述离散平稳信源的定义，平均符号熵、极限熵的定义，含义与理解。

平均互信息量I（X；Y）与信源熵和条件熵之间的关系是（）。 离散信源输出四个不同符号，若各符号概率分别为1/2、1／4、1／8、1/8，则该信源的熵为（） 微熵定义为 简述平均互信息量的定义及物理意义、疑义度及噪声熵。 离散信源输出4个不同符号，若各符号概率分别为1/2，1/4，1/8，1/8，则该信源的熵为()。 信源由4个符号组成，当各符号出现的概率为分布时，信源熵最大（） 某信源产生a、b、c、d四个符号，各符号独立出现，这个信源可能的最大信源熵为 bit/符号 熵可定义为ds=dq/T,那么熵的单位为__ 简单讨论“熵”与“负熵”的含义。 请写出熵的定义式 ： 离散信源输出5个不同符号，若各符号概率分别为1/2，1/4，1/8，1/16，1/16，则该信源的熵为()。 设有一个无记忆信源发出符号A和B，已知，发出二重符号序列消息的信源，无记忆信源熵为（）。 简述信源的冗余度的定义和含义。 当随即变量X和Y相互独立时，条件熵等于信源熵。 二进制数字信息的最大信源熵（单位bit/符号）为（）。 四元信源的最大熵是（） 熵的定义式看出ΔS=0表示（）过程 最先发现熵的微观定义的是 中国大学MOOC: 有下列一组符号数据，根据信息熵的定义，求出其信息熵为：( )。(取小数点后3位)。highnormalhighhighnormalnormalnormalhighnormalnormal 信源熵具有严格的下凸性。