Stuart的MATLAB视频
观察和学习

视频教程:比较中的公差

发布的Doug船体，二八年十二月一日

6次观看(过去30天)|0喜欢|4评论

有时你会做一个计算，答案看起来像0或1或其他类似的数字。很自然的做法是做一个这样的测试:

如果(answer == 1)做某事结束

然而，如果以双重精度进行计算，答案实际上可能是1.000000001或类似的东西。这段视频讨论了克服这个问题的策略:

if abs(answer -1) < 1e-14 Do something end

|

类别:: 格式:视频,; 先进水平:

评论

如欲留言，请点击在这里登录您的MathWorks帐户或创建一个新帐户。