计算量化误差
这个例子展示了如何计算和比较信号的统计量化误差当使用不同的舍入方法。量化数据类型时不能完全代表一个值。在这些情况下,值必须四舍五入为最接近的值可以由数据类型。
首先,创建一个随机信号,跨越的范围量化器对象。接下来,信号是量子化的,分别用舍入方法“修复”,“地板”,“装天花板”,“最近的”,“收敛”和信号的统计估计。
量化误差的概率密度函数理论计算的errpdf函数的理论意味着量化误差计算的errmean函数,量化误差的方差理论计算的errvar函数。
创建均匀分布随机信号
创建一个均匀分布随机信号跨域1比1的定点量化器对象问。
q =量化器(8 [7]);r =最大浮点数(q);u = r *(2 *兰德(50000 - 1)- 1);ξ= linspace (2 * eps (q), 2 * eps (q), 256);
解决办法:为零
与“修复”舍入,概率密度函数是其他人的两倍宽。出于这个原因,方差是其他人的四倍。
q =量化器(“修复”7 [8]);呃=数字转换(q, u) - u;f_t = errpdf (q, xi);mu_t = errmean (q);v_t = errvar (q);qerrordemoplot (q, f_tξ,mu_t v_t,犯错)
估计误差方差(dB) = -46.8586均值方差(dB) = -46.9154估计理论误差= 7.788 e-06理论意味着= 0
理论方差是每股收益(q) ^ 2/3和理论的意思是0。
楼:负无穷
“地板”舍入通常被称为截断当使用整数和定点使用二进制补码表示法来表示数字。它是最常见的舍入模式的DSP处理器,因为它不需要硬件来实现。“地板”不会产生量化值尽可能接近真实值吗“圆”会,但它有相同的方差。使用“地板”、小信号不同标志将被检测到,而在“圆”他们将丢失。
q =量化器(“地板”7 [8]);呃=数字转换(q, u) - u;f_t = errpdf (q, xi);mu_t = errmean (q);v_t = errvar (q);qerrordemoplot (q, f_tξ,mu_t v_t,犯错)
估计误差方差(dB) = -52.9148均值方差(dB) = -52.936估计理论误差理论意味着= -0.0039062 = -0.0038956
理论方差是每股收益(q) ^ 2/12和理论的意思是每股收益(q) / 2。
装天花板:正无穷
q =量化器(“装天花板”7 [8]);呃=数字转换(q, u) - u;f_t = errpdf (q, xi);mu_t = errmean (q);v_t = errvar (q);qerrordemoplot (q, f_tξ,mu_t v_t,犯错)
估计误差方差(dB) = -52.9148均值方差(dB) = -52.936估计理论误差理论意味着= 0.0039062 = 0.0039169
理论方差是每股收益(q) ^ 2/12和理论的意思是每股收益(q) / 2。
最近的一轮:一轮;领带轮的最大大小
“圆”更精确的比“地板”,但是所有的值小于每股收益(q)圆形为零和丢失。
q =量化器(“最近的”7 [8]);呃=数字转换(q, u) - u;f_t = errpdf (q, xi);mu_t = errmean (q);v_t = errvar (q);qerrordemoplot (q, f_tξ,mu_t v_t,犯错)
估计误差方差(dB) = -52.9579均值方差(dB) = -52.936估计理论误差= -2.212 e-06理论意味着= 0
理论方差是每股收益(q) ^ 2/12和理论的意思是0。
收敛:转到最近的;甚至在一轮领带
“收敛”介绍了由普通舍入消除了偏见“圆”总是舍入造成的领带在同一个方向。
q =量化器(“收敛”7 [8]);呃=数字转换(q, u) - u;f_t = errpdf (q, xi);mu_t = errmean (q);v_t = errvar (q);qerrordemoplot (q, f_tξ,mu_t v_t,犯错)
估计误差方差(dB) = -52.9579均值方差(dB) = -52.936估计理论误差= -2.212 e-06理论意味着= 0
理论方差是每股收益(q) ^ 2/12和理论的意思是0。
比较最近的和收敛的舍入
收敛的舍入误差概率密度函数是很难区分round-to-nearest看情节。
的误差概率密度函数收敛
f (err) = 1 / eps (q),为每股收益(q) / 2 < =呃< =每股收益(q) / 2,0否则
而圆的误差概率密度函数
f (err) = 1 / eps (q),为每股收益(q) / 2 <犯错< =每股收益(q) / 2,0否则
收敛的误差概率密度函数是对称的,而圆略偏向于积极的。
唯一的区别是舍入的方向在领带。
x = (-3.5:3.5) ';[x收敛(x)最近的(x))
ans =8×3-3.5000 -4.0000 -3.0000 -2.5000 -2.0000 -2.0000 -1.5000 -2.0000 -1.0000 -0.5000 0.5000 0 0 0 1.0000 1.5000 2.0000 2.0000 2.5000 2.0000 3.0000 3.5000 4.0000 4.0000
