斯图尔特的MATLAB视频
观察和学习

视频教程:公差在比较

发布的Doug船体,2008年12月1日

(30天)| 13视图0喜欢|4评论

有时你会做一个计算,答案看起来像“0”或“1”或其他一些数量。自然的事情是做一个测试是这样的:

如果(回答= = 1)做某事

然而,如果在双精度计算完成,答案可能是1.000000001之类的。这个视频讨论的策略克服:

如果abs(答案- 1)< 1 e-14做结束

|

类别:: 格式:视频,; 先进水平:

评论

留下你的评论,请点击在这里MathWorks账户登录或创建一个新的。