精度和范围
请注意
您必须注意所选定点数据类型和缩放的精度和范围,以便知道是否会调用舍入方法,或者是否会发生溢出或下溢。
范围
范围是定点数据类型和缩放可以表示的数字的范围。字长二补定点数的可表示数的范围 、缩放 和偏见 如下图所示:
对于任何数据类型的有符号和无符号定点数,不同位模式的数量为2王.
例如,在2的补数中,负数必须和零一样表示,因此最大值为2王-1- 1.因为0只有一种表示,所以正数和负数的数目是不相等的。这意味着有一个表示 但不是为了 :
溢出处理
由于定点数据类型表示有限范围内的数字,如果操作的结果大于或小于该范围内的数字,则可能发生溢出和下溢。
定点设计器™软件允许您任意选择饱和或包装溢出。饱和度表示正溢出为所使用范围内的最大正数,负溢出为所使用范围内的最大负数。包装使用模算术将溢出转换回数据类型的可表示范围。
当你创建fi
对象时,任何溢出都已饱和。的OverflowAction
属性的默认值是饱和
.属性可以记录溢出和不足LoggingMode
的属性fipref
对象在
.
精度
定点数的精度是由其数据类型和缩放表示的连续值之间的差值,它等于其最低有效位的值。最小有效位的值,也就是数字的精度,是由小数位数决定的。定点值可以表示为其数据类型和缩放精度的一半以内。
例如,在二进制点右侧有4位的定点表示法精度为24或者0.0625,这是它的最低有效位的值。在此数据类型和缩放范围内的任何数字都可以表示为(24)/2或0.03125,这是精度的一半。这是一个用有限精度表示数字的例子。
舍入方法
当您以有限精度表示数字时,并不是可用范围内的每个数字都可以精确表示。如果一个数字不能通过指定的数据类型和缩放精确地表示,则使用舍入方法将值转换为可表示的数字。虽然在舍入操作中总是会损失精度,但操作的成本和引入的偏差量取决于舍入方法本身。为了在成本和偏差之间提供更大的灵活性,定点设计器软件目前支持以下舍入方法:金宝app
天花板
四舍五入到正无穷方向上最接近可表示的数。收敛
四舍五入到最接近可表示的数字。在平局的情况下,收敛
四舍五入到最近的偶数。这是工具箱提供的偏差最小的舍入方法。零
四舍五入到零方向上最接近的可表示数字。地板上
,相当于2的补位截断,四舍五入到负无穷方向上最接近的可表示数。最近的
四舍五入到最接近可表示的数字。在平局的情况下,最近的
四舍五入到正无穷方向上最接近可表示的数。的默认舍入方法fi
对象创建和fi
算术。轮
四舍五入到最接近可表示的数字。在平局的情况下轮
方法轮:正无穷方向上最接近可表示数的正数。
负数到在负无穷方向上最接近可表示的数。
选择舍入方法。每个舍入方法都有一组固有属性。根据您的设计需求,这些属性可能会使舍入方法更适合您,也可能不适合您。通过了解您的设计需求和理解每种舍入方法的属性,您可以确定哪种方法最适合您的需求。需要考虑的最重要属性是:
成本-与所使用的硬件无关,舍入方法需要多少处理费用?
低-该方法处理周期少。
中等-该方法需要中等数量的处理周期。
高-该方法需要更多的处理周期。
请注意
这里提供的成本估算与硬件无关。有些处理器内置舍入模式,因此在计算每种舍入模式的真实成本之前,请仔细考虑您使用的硬件。
偏差-四舍五入值减去原始值的期望值是多少: ?
-舍入法引入了负偏差。
—舍入法是无偏置的。
-舍入法引入正偏置。
下表显示了定点设计器产品中可用的不同舍入方法的比较。
定点设计器舍入模式 | 成本 | 偏见 |
---|---|---|
天花板 |
低 | 大的积极 |
收敛 |
高 | 无偏见的 |
零 |
低 |
|
地板上 |
低 | 大的负面 |
最近的 |
温和的 | 小正 |
轮 |
高 |
|
简单的 (金宝app仿真软件®唯一的) |
低 | 取决于操作 |