主要内容

量化

量化具有现实价值V由位的加权和表示。在一般斜率和偏差编码方案的背景下,无符号不动点量的值由

V 年代 0 w 年代 1 b 2 + B

而有符号的定点量的值是

V 年代 b w 年代 1 2 w 年代 1 + 0 w 年代 2 b 2 + B

在哪里

  • b 是二进制数字吗 b 1 0 ,因为 0 1 ... w 年代 1

  • 字的大小(以位为单位)由ws,ws123.、……128

  • 年代是由 F 2 E ,其中缩放是不受限制的,因为二进制点不必与单词相邻。

b 被称为位乘数 2 被称为“权重

定点格式

8位有符号和无符号定点值的格式如下图所示。

请注意,您不能仅通过检查就辨别这些数字是有符号的数据类型还是无符号的数据类型,因为该信息没有显式地编码在单词中。

的二进制数0011.0101对于无符号和2的补码表示产生相同的值,因为MSB =0.设置B0使用适当的权值,比特乘数,缩放,值是

V F 2 E 2 E 0 w 年代 1 b 2 2 4 0 × 2 7 + 0 × 2 6 + 1 × 2 5 + 1 × 2 4 + 0 × 2 3. + 1 × 2 2 + 0 × 2 1 + 1 × 2 0 3.3125。

相反,二进制数1011.0101对无符号和2的补码表示产生不同的值,因为MSB =1

设置B0使用合适的权值,比特乘数,缩放,无符号值是

V F 2 E 2 E 0 w 年代 1 b 2 2 4 1 × 2 7 + 0 × 2 6 + 1 × 2 5 + 1 × 2 4 + 0 × 2 3. + 1 × 2 2 + 0 × 2 1 + 1 × 2 0 11.3125

而两者的互补值是

V F 2 E 2 E b w 年代 1 2 w 年代 1 + 0 w 年代 2 b 2 2 4 1 × 2 7 + 0 × 2 6 + 1 × 2 5 + 1 × 2 4 + 0 × 2 3. + 1 × 2 2 + 0 × 2 1 + 1 × 2 0 4.6875。