主要内容

范围和精度

的<年代pan class="emphasis">范围的数字表示的极限,虽然<年代pan class="emphasis">精度使连续的数字之间的距离表示。定点数的范围和精度依赖于词的长度和比例。

请注意

你必须注意的精度和范围定点数据类型和落下的石块你选择为了知道舍入方法将调用或如果发生溢出或下溢。

范围

定点的范围是张成的空间数字数据类型和比例可以表示。范围是有限的,因为定点文字大小有限。

可表示的数的范围为一个二进制补码定点数量的单词长度<年代pan class="inlineequation"> w l 、缩放<年代pan class="inlineequation"> 年代 和偏见<年代pan class="inlineequation"> B 所示,的值<年代pan class="inlineequation"> w l ,<年代pan class="inlineequation"> 年代 ,<年代pan class="inlineequation"> B 允许两个正面和负面的数字。

签署和无符号定点数量的任何数据类型,不同的二进制模式的数量<年代pan class="inlineequation">2<年代up>

例如,在二进制补码,必须表示负数和零,所以最大值<年代pan class="inlineequation">2<年代up>1- 1。因为只有一个表示0,有一个不平等的积极的和消极的数字。这意味着有一个表示<年代pan class="inlineequation"> 2 w l 1 但不是<年代pan class="inlineequation"> 2 w l 1 :

限制范围内

因为一个定点数据类型代表了数字在一个有限的范围内,会发生溢出和下溢如果一个操作的结果比数字更大或更小的范围。

在二进制算术,处理器可能需要一个n位定点,并将它存储在m比特数<年代pan class="inlineequation"> n 。如果m < n,减少数量的范围和一个操作可以产生一个溢出条件。一些处理器识别这种情况。其他处理器,特别是数字信号处理器(dsp)的价值<年代pan class="emphasis">饱和烃或<年代pan class="emphasis">包装

定点设计师™软件允许你<年代pan class="emphasis">饱和或<年代pan class="emphasis">包装溢出。饱和代表积极溢出最大的正数范围使用,和负面溢出范围最大的负数。包装使用模运算来铸造一个溢流回可表示的范围的数据类型。

当您创建一个fi对象,任何溢出是饱和。的OverflowAction默认fimath的属性饱和。你可以通过设置日志溢出和下溢LoggingMode财产的fipref对象

如果m > n的范围已经扩展数量。扩展一个字需要包容的范围<年代pan class="emphasis">后卫位行为,防范潜在的溢出。

的仿真软金宝app件<年代up>®软件支持饱和和包装金宝app定点数据类型,而后卫位只有部分支持的数据类型。

精度

定点数的精度之间的区别是连续值可表示的数据类型和扩展。最低有效位的值,因此精确的数字,是由分位的数量。定点值可以表示在一半的精度的数据类型和扩展。

例如,定点表示法与四位二进制的右边点2的精度<年代up>4或0.0625,其最低有效位的值。范围内的任意数量的数据类型和比例可以代表(2<年代up>4)/ 2或0.03125,一半的精度。这是一个例子的代表数量有限的精度。

限制精度

一个定点的词的精度取决于大小和二进制点位置。例如,假设您必须代表实际数量与定点数35.375。使用一个斜率偏见编码方案,表示

V V ˜ = 年代 + B = 2 2 + 32 ,

在哪里<年代pan class="inlineequation">V= 35.375。

最近的两个近似真实的价值<年代pan class="inlineequation">= 13和<年代pan class="inlineequation">= 14:

V ˜ = 2 2 ( 13 ) + 32 = 35.25 , V ˜ = 2 2 ( 14 ) + 32 = 35.50。

在这两种情况下,绝对误差是一样的:

| V ˜ V | = 0.125 = 年代 2 = F 2 E 2

对于定点值在有限的范围内,这是最坏的错误如果round-to-nearest使用。如果使用其他的舍入模式,最坏的错误可以两倍:

| V ˜ V | < F 2 E

扩展一个词的精度可以实现更多的位,但你面对实际限制使用这种方法。相反,您必须仔细选择数据类型,大小,和扩展,数字准确地代表。舍入和填充尾随零是典型的方法上实现处理器来处理二进制字的精度。

定点数据类型参数

上限,下限和默认binary-point-only扩展支持定点数据类型中讨论金宝appBinary-Point-Only扩展在下表中给出。

定点数据类型和默认的扩展范围

的名字

数据类型

较低的限制

高温限制

默认的扩展(~精度)

无符号整数

ws fixdt (0, 0)

0

2 w 年代 1

1

带符号整数

fixdt (1 ws 0)

2 w 年代 1

2 w 年代 1 1

1

无符号二进制点

fixdt (0 ws fl)

0

( 2 w 年代 1 ) 2 f l

2 f l

签署了二进制点

fixdt (1 ws fl)

2 w 年代 1 f l

( 2 w 年代 1 1 ) 2 f l

2 f l

无符号斜率的偏见

fixdt (0 ws年代,b)

b

年代 ( 2 w 年代 1 ) + b

年代

签署了斜率偏见

fixdt (1、ws年代,b)

年代 ( 2 w 年代 1 ) + b

年代 ( 2 w 年代 1 1 ) + b

年代

年代=斜率,b=偏见,ws=字,fl= FractionLength

范围和精度的8位定点数据类型——Binary-Point-Only缩放

签署的精度、范围值,范围为一个8位无符号值的广义定点数据类型与binary-point-only缩放下表中列出。注意,第一个缩放值(2<年代up>1)代表一个二进制点与这个词并不是连续的。

扩展

精度

签署范围值(低,高)

范围的无符号值(低,高)

2<年代up>1

2.0

-256年,254年

0,510

2<年代up>0

1.0

-128年,127年

0,255

2<年代up>1

0.5

-64年,63.5

0,127.5

2<年代up>2

0.25

-32年,31.75

0,63.75

2<年代up>3

0.125

-16年,15.875

0,31.875

2<年代up>4

0.0625

8,7.9375

0,15.9375

2<年代up>5

0.03125

4、3.96875

0,7.96875

2<年代up>6

0.015625

2、1.984375

0,3.984375

2<年代up>7

0.0078125

1、0.9921875

0,1.9921875

2<年代up>8

0.00390625

-0.5,0.49609375

0,0.99609375

范围和精度的8位定点数据类型扩展——斜率和偏见

签署和无符号值的精度和范围为一个8位定点数据类型使用斜坡和偏见比例在下表中列出。是从一个值的斜率1.25的偏见1.0所有的斜坡。注意,斜率是一样的精度。

偏见

斜率/精密

签署范围值(低,高)

范围的无符号值(低,高)

1

1.25

-159年,159.75

1、319.75

1

0.625

-79年,80.375

1、160.375

1

0.3125

-39年,40.6875

1、80.6875

1

0.15625

-19年,20.84375

1、40.84375

1

0.078125

9日,10.921875

1、20.921875

1

0.0390625

4、5.9609375

1、10.9609375

1

0.01953125

-1.5,3.48046875

1、5.98046875

1

0.009765625

-0.25,2.240234375

1、3.490234375

1

0.0048828125

0.375,1.6201171875

1、2.2451171875

相关的话题