基本的多个数值错误

25日视图(30天)
yifwang
yifwang 2019年8月26日
评论道: yifwang2019年8月26日
使用matlab多个计算时,一些错误发生
= 7 * 13 e-6;
b = 6 * 13 e-6;
答案是
一个= 9.09999999999999999 e-5
b = 7.80000000000000000 e-5
但不是在b erroe发生;
那么这个错误发生,*是如何运作的吗?在什么条件下错误的发生?
2的评论
yifwang
yifwang 2019年8月26日
7 * 13 e-6应该没错
9.100000000000000 e-5
但不是
9.099999999999999 e-5
错误

登录置评。

接受的答案

泰德•舒尔茨
泰德•舒尔茨 2019年8月26日
这些都是浮点计算。不是每个数可以表示,这舍入误差数学的化合物,当你能做这些不完美的数字。
“浮点错误是因为实数不能,一般来说,准确地代表在一个固定的空间。”

更多的答案(0)

下载188bet金宝搏


释放

R2018b

社区寻宝

找到宝藏在MATLAB中央,发现社区如何帮助你!

开始狩猎!