在下面的评论中我的关于半精确算术的帖子，“Raj C”问IEEE标准754浮点算法的参数是如何选择的。我回答说我不知道，但我会设法弄清楚。我打电话给加州大学伯克利分校的退休教授W. (Velvel) Kahan，他是754的主要建筑师。以下是我学到的....阅读更多>>

一年半以前，我写了一篇关于“半精度”16位浮点算术的文章，Moler在fp16上．接着我修复了一个bug，fp16中的Bug．两篇文章都是关于fp16，在IEEE标准754中定义。这只是15种可能的16位格式中的一种。在这篇文章中，我将考虑所有的15个....阅读更多>>

如果你经常关注这个博客，你就知道我喜欢分形。最近，我在新罕布什尔州的纳舒厄度过了一个愉快的下午。在那里，我的女儿特蕾莎把我介绍给了格里高利·塞尔(Gregory Searle)，他是一位分形艺术家和计算机极客。这是他的logo....阅读更多>>

今天是星期五，十三号。在世界上的许多地方，今天被视为不幸的．但我想重温一个老问题:是今天吗不太可能？每个月的13号恰好是星期五的概率有多大?计算答案使用了一个新的MATLAB®特性datetime方法……阅读更多>>

我在5月8日的帖子是关于"半精度"和"四分之一精度"的算术。我还为对象添加了代码fp16而且fp8来克里夫的实验室．几天前，我从曼彻斯特大学的Pierre Blanchard和我的好朋友Nick Higham那里听说，这些对象的构造器....中存在一个严重的bug阅读更多>>

我第一次接触希尔伯特矩阵是在我做个人研究的时候约翰·托德教授在加州理工学院。从....开始，它就成为了我职业生涯的一部分阅读更多>>

占用128位存储空间的浮点算术格式称为binary128或四倍精度．这篇博文描述了一个完全用MATLAB语言....编程的四倍精度实现阅读更多>>

只需要16位存储空间的浮点运算格式正变得越来越流行。也被称为半精密或binary16，当内存是稀缺资源....时，该格式是有用的阅读更多>>

的一个可能的错误报告格式的银行去当地的五金店让我意识到用二进制浮点数做十进制运算就像用美国套筒扳手拧紧欧洲螺栓....阅读更多>>

ULP的意思是“最后的单位”。一个就ulp进行阴谋抽样一个基本的数学函数，如$\sin{x}$，或一个更深奥的函数，如贝塞尔函数。这些样本与通过更高精度的计算得到的更准确的值进行了比较。以ulps为单位的精确度图揭示了有关底层算法....的有价值的信息阅读更多>>