精度和范围
请注意
你必须注意的精度和范围定点数据类型和落下的石块你选择为了知道舍入方法将调用或如果发生溢出或下溢。
范围
定点的范围是张成的空间数字数据类型和比例可以表示。可表示的数的范围为一个二进制补码定点数量的单词长度 、缩放 和偏见 所示:
签署和无符号定点数量的任何数据类型,不同的二进制模式的数量2王。
例如,在二进制补码,必须表示负数和零,所以最大值2王1- 1。因为只有一个表示0,有一个不平等的积极的和消极的数字。这意味着有一个表示 但不是 :
溢出处理
因为一个定点数据类型代表了数字在一个有限的范围内,会发生溢出和下溢如果一个操作的结果比数字更大或更小的范围。
定点设计师™软件允许你饱和或包装溢出。饱和代表积极溢出最大的正数范围使用,和负面溢出范围最大的负数。包装使用模运算来铸造一个溢流回可表示的范围的数据类型。
当您创建一个fi
对象,任何溢出是饱和。的OverflowAction
默认fimath的属性饱和
。你可以通过设置日志溢出和下溢LoggingMode
财产的fipref
对象在
。
精度
定点数的精度之间的区别是连续值可表示的数据类型和比例,等于其最低有效位的值。最低有效位的值,因此精确的数字,是由分位的数量。定点值可以表示在一半的精度的数据类型和扩展。
例如,定点表示法与四位二进制的右边点2的精度4或0.0625,其最低有效位的值。范围内的任意数量的数据类型和比例可以代表(24)/ 2或0.03125,一半的精度。这是一个例子的代表数量有限的精度。
舍入方法
当你代表数字精度有限,并不是每个可用的数量范围可以表示。如果数量不能完全代表指定的数据类型和扩展,一种舍入方法用于将值转换为一个可表示的数。虽然精度总是迷失在舍入操作,操作的成本和偏见,介绍取决于舍入方法本身。为您提供更大的灵活性之间的权衡成本和偏见,定点设计软件目前支持以下四舍五入方法:金宝app
天花板
轮的方向最接近可表示的数字正无穷。收敛
最近的可表示的数字。的领带,收敛
到最近的偶数。这是最偏向舍入方法提供的工具箱。零
轮的方向最接近可表示的数字零。地板上
,相当于二进制补码截断,轮的方向最接近可表示的数字负无穷。最近的
最近的可表示的数字。的领带,最近的
轮的方向最接近可表示的数字正无穷。这舍入方法是默认的fi
对象创建和fi
算术。轮
最近的可表示的数字。在领带的情况下,轮
方法轮:积极的数字最接近可表示的数量的方向正无穷。
负数的方向最接近可表示的数字负无穷。
选择一种舍入方法。每个舍入方法有一组固有的特性。根据你的要求设计,这些属性可以使舍入方法或多或少地需要你。通过了解你的设计的要求和理解每个舍入方法的属性,你可以确定哪些是最适合你的需要。需要考虑的最重要的属性是:
——独立于所使用的硬件成本,加工费用,舍入方法需要多少钱?
低收入的方法需要一些处理周期。
温和的方法需要一个温和的处理周期。
高的方法需要更多的处理周期。
请注意
这里提供的成本估计是硬件无关的。一些处理器具有内置的舍入模式,所以之前仔细考虑您所使用的硬件计算每个舍入模式的真实成本。
偏见,圆角的期望值是什么值减去原始值: 吗?
——引入了负偏压的舍入方法。
——舍入方法是公正的。
——舍入方法引入了一个积极的偏见。
下表显示了不同的舍入方法的比较中可用定点产品设计师。
定点设计师舍入模式 | 成本 | 偏见 |
---|---|---|
天花板 |
低 | 大的积极 |
收敛 |
高 | 无偏见的 |
零 |
低 |
|
地板上 |
低 | 大的负面 |
最近的 |
温和的 | 小正 |
轮 |
高 |
|
简单的 (金宝app仿真软件®唯一的) |
低 | 取决于操作 |