主要内容

精度和范围

请注意

您必须注意所选定点数据类型和缩放的精度和范围,以便知道是否会调用舍入方法,或者是否会发生溢出或下溢。

范围

范围是定点数据类型和缩放可以表示的数字的范围。字长二补定点数的可表示数的范围 w l 、缩放 年代 和偏见 B 如下图所示:

对于任何数据类型的有符号和无符号定点数,不同位模式的数量为2

例如,在2的补数中,负数必须和零一样表示,因此最大值为2-1- 1.因为0只有一种表示,所以正数和负数的数目是不相等的。这意味着有一个表示 2 w l 1 但不是为了 2 w l 1 :

溢出处理

由于定点数据类型表示有限范围内的数字,如果操作的结果大于或小于该范围内的数字,则可能发生溢出和下溢。

定点设计器™软件允许您任意选择饱和包装溢出。饱和度表示正溢出为所使用范围内的最大正数,负溢出为所使用范围内的最大负数。包装使用模算术将溢出转换回数据类型的可表示范围。

当你创建fi对象时,任何溢出都已饱和。的OverflowAction属性的默认值是饱和.属性可以记录溢出和不足LoggingMode的属性fipref对象

精度

定点数的精度是由其数据类型和缩放表示的连续值之间的差值,它等于其最低有效位的值。最小有效位的值,也就是数字的精度,是由小数位数决定的。定点值可以表示为其数据类型和缩放精度的一半以内。

例如,在二进制点右侧有4位的定点表示法精度为24或者0.0625,这是它的最低有效位的值。在此数据类型和缩放范围内的任何数字都可以表示为(24)/2或0.03125,这是精度的一半。这是一个用有限精度表示数字的例子。

舍入方法

当您以有限精度表示数字时,并不是可用范围内的每个数字都可以精确表示。如果一个数字不能通过指定的数据类型和缩放精确地表示,则使用舍入方法将值转换为可表示的数字。虽然在舍入操作中总是会损失精度,但操作的成本和引入的偏差量取决于舍入方法本身。为了在成本和偏差之间提供更大的灵活性,定点设计器软件目前支持以下舍入方法:金宝app

  • 天花板四舍五入到正无穷方向上最接近可表示的数。

  • 收敛四舍五入到最接近可表示的数字。在平局的情况下,收敛四舍五入到最近的偶数。这是工具箱提供的偏差最小的舍入方法。

  • 四舍五入到零方向上最接近的可表示数字。

  • 地板上,相当于2的补位截断,四舍五入到负无穷方向上最接近的可表示数。

  • 最近的四舍五入到最接近可表示的数字。在平局的情况下,最近的四舍五入到正无穷方向上最接近可表示的数。的默认舍入方法fi对象创建和fi算术。

  • 四舍五入到最接近可表示的数字。在平局的情况下方法轮:

    • 正无穷方向上最接近可表示数的正数。

    • 负数到在负无穷方向上最接近可表示的数。

选择舍入方法。每个舍入方法都有一组固有属性。根据您的设计需求,这些属性可能会使舍入方法更适合您,也可能不适合您。通过了解您的设计需求和理解每种舍入方法的属性,您可以确定哪种方法最适合您的需求。需要考虑的最重要属性是:

  • 成本-与所使用的硬件无关,舍入方法需要多少处理费用?

    • 低-该方法处理周期少。

    • 中等-该方法需要中等数量的处理周期。

    • 高-该方法需要更多的处理周期。

    请注意

    这里提供的成本估算与硬件无关。有些处理器内置舍入模式,因此在计算每种舍入模式的真实成本之前,请仔细考虑您使用的硬件。

  • 偏差-四舍五入值减去原始值的期望值是多少: Ε θ θ ?

    • Ε θ θ < 0 -舍入法引入了负偏差。

    • Ε θ θ 0 —舍入法是无偏置的。

    • Ε θ θ > 0 -舍入法引入正偏置。

下表显示了定点设计器产品中可用的不同舍入方法的比较。

定点设计器舍入模式 成本 偏见
天花板 大的积极
收敛 无偏见的
  • 大阳性为阴性样本

  • 无偏的样本与均匀分布的正负值

  • 大的阴性阳性样本

地板上 大的负面
最近的 温和的 小正
  • 小负号为负样本

  • 无偏的样本与均匀分布的正负值

  • 阳性样本为小阳性

简单的
(金宝app仿真软件®唯一的)
取决于操作