净斜率和偏差的精度
净斜率和偏差是什么?
你可以代表一个定点数一般边坡和偏见编码方案,
地点:
是一个任意精确的实际价值。
是近似真实的价值。
问存储的值是一个整数,编码V。
年代=F2E斜率是。
B是偏见。
的操作,
或
地点:
是净的斜率。
是净的偏见。
检测净斜率和偏见精度问题
精度问题可能发生在定点常数,净斜率和偏见,由于量化误差,当你转换浮点和定点。这些定点常数精度问题会导致模型的数值不准确。
您可以配置您的模型定点定精度问题发生时提醒你。
您可以配置您的模型定点定精度问题发生时提醒你。接收警报当定点定精度问题发生时,使用这些选项可用的模型金宝app®配置参数对话框,诊断>类型转换窗格。将参数设置为警告
或错误
这模型精度问题发金宝app生时提醒你。
配置参数 | 指定 | 默认的 |
---|---|---|
检测下溢 | 诊断操作期间发生定点常数下溢时模拟 | 不生成一个警告或者错误。 |
检测溢出 | 诊断行动当定点不断溢出发生在模拟 | 不生成一个警告或者错误。 |
检测精度损失 | 诊断行动当一个定点常数精度损失发生在模拟 | 不生成一个警告或者错误。 |
定点设计师™软件提供了以下信息:
类型的精度问题:下溢,溢出,或精度损失。
定点的原始值不变。
的量化值定点常数。
的误差值定点常数。
介绍了错误的块。
这个信息提醒你,这个块的输出是不准确的。如果可能的话,改变数据类型在你的模型来解决这个问题。
定点常数下溢
定点常数下溢定点设计软件时遇到一个定点常数没有足够精度的数据类型来表示的理想值常数,因为理想的价值太接近于零。铸件的理想值定点数据类型引起定点常数的值变成0。因此定点常数的值不同于其理想值。
定点不断溢出
定点不断溢出发生在定点设计软件将一个定点常数转换为数据类型的范围不够大容纳的理想值常数与合理的精度。数据类型不能准确地代表理想值,因为理想值太大或太小。铸件的理想值定点数据类型会导致溢出。例如,假设理想的值200年
和数据类型转换int8
。溢出发生在这种情况下,因为最大值int8
可以代表127年
。
定点设计软件报告一个溢出错误如果量化值与理想值超过精度的数据类型。数据类型的精度约等于默认缩放(有关更多信息,请参见定点数据类型参数)。因此,对于积极的价值观,定点设计软件对错误斜率大于溢出。为负值时,对待错误大于或等于斜率溢出。
例如,最大的价值int8
可以代表127年
。的精度int8
是1.0
。一个理想的价值127.3
数字转换为127年
的绝对误差0.3
。虽然理想值127.3
大于最大可表示的值int8
,量化误差小的相对精度int8
。因此定点设计软件不报告一个溢出。然而,理想的价值128.1
导致溢出由于量化误差是什么1.1
比的精度int8
。
请注意
定点不断溢出与定点常数不同精度的损失。精度损失发生在理想定点常数范围内的值是当前数据类型和比例,但软件不能代表这个值到底。
定点常数精度损失
定点常数精度损失发生在定点设计软件将一个定点常数转换为数据类型没有足够精确表示常数的精确值。因此,量化值与理想值。这种行为的一个例子,看到检测定点精度损失。
请注意
定点常数精度损失不同于定点常数溢出。溢出时发生的一系列参数的数据类型,也就是说,它可以表示的最大值,比参数的理想值小。