二元信源符号0,1的概率分别为ω,1-ω,通过下面的二元删除信道传输信息,其中0≤p≤1/2。对于此二元删
二元信源符号0,1的概率分别为ω,1-ω,通过下面的二元删除信道传输信息,其中0≤p≤1/2。
对于此二元删除信道,证明最小汉明距离译码准则等价于ML准则。
二元信源符号0,1的概率分别为ω,1-ω,通过下面的二元删除信道传输信息,其中0≤p≤1/2。
对于此二元删除信道,证明最小汉明距离译码准则等价于ML准则。
设f(x)在[a,b]上有界可积,且对任意两点x,y,∈[a,b]及任意λ∈(0,1)有f(λx+(1-λ)y)≤λf(x)+(1-λ)f(y),证明
A.可供选择的码字有4个
B.信息率R=2/3bit/码元
C.共有C48=70种不同的编码方法
D.继续增大码长,可以降低平均差错率
2.当信源和信道(编码器)均无记忆时,N长符号序列的平均失真度等于单符号平均失真度的N倍。( )
A.某一时刻信源符号的输出只与当时的信源状态有关,而与之前的状态无关
B.信源状态由当前输出符号和前一时刻信源状态唯一确定
C.一般马尔可夫信源的信息熵是其平均符号熵的极限值
D.m阶马尔可夫信源的极限熵等于m+1阶条件熵
设X、Y、Z为离散信源,U、V为连续信源,(φ为函数关系,f、g为可逆线性变换,从符号集{≤,≥,> ,<,=)中选择的一个合适符号写到括号内,以连接下面括号两边的熵函数或平均互信息函数:
若X1、X2、X3都是等概取值于{0,1}的二进制随机变量,转移概率P(b∣a)=P(X2=b∣P(X1=a))时:若a=b则 P(b∣a)=0.8。另外,P(X3=c∣X1=a,X2=b)=P(X3=c∣X2=b)=P(X2=c∣X1=b)。求序列 {X1,X2,X3)的熵。
已知X和Y都是取值于{0,1}的一进制随机变量,P(X=0)=p。还已知P(X≠Y f X)=ε。求概率P(Y=1),熵H(X),H(Y),H(Y|X以及互信息I(X;Y)。假设ε给定,p可变,求能使I(X;Y)最大的p。