双精度浮点数0.72可以代表到底在Matlab ?解释一下。

1视图(30天)
双精度浮点数0.72可以代表到底在Matlab ?解释一下。这是我的一个实践问题测试答案对我来说没有意义。
这是他的回答
不,因为其尾数零位以外的52位。它有以下重复模式有效数字:10111000010100011110。

答案(1)

罗杰·斯塔福德
罗杰·斯塔福德 2017年3月5日
编辑:罗杰·斯塔福德 2017年3月5日
在几乎所有的计算机,浮点数表示的二进制格式。这意味着只能代表数字到底是有理数的分母是2的幂,减少形式,如35/128。标识数量减少分数形式将是18/25,这显然不是必需的。这是类似于一个十进制试图准确地代表1/3计算器——它不能做,因为在十进制数是这样的:
1/3 = .33333333333333。无限远的

标签

社区寻宝

找到宝藏在MATLAB中央,发现社区如何帮助你!

开始狩猎!