Numpy 全精度和半精度公差？

Numpy allclose tolerances for single and half precision?

提问人：OverLordGoldDragon 提问时间：8/8/2023 更新时间：8/8/2023 访问量：66

问：

atol=1e-8不适合单精度或半精度，不确定 - 它们似乎已针对 .rtol=1e-5float64

和的标准应该是什么？float32float16

参考是首选 - 我找到了这个，但没有摘要，我不知道它对 .简单的推理也有效。np.allclose

Python NumPy 精度

评论

1赞 hpaulj 8/8/2023
mpmath.almosteq可能会给你一些想法
1赞 Nick ODell 8/8/2023
我不认为这个问题是可以回答的。在某些情况下，我关心将现有方法的输出匹配到 1 ULP 以内，而在某些情况下，我很高兴正确答案的 0.1% 以内。0.1%是“接近”吗？取决于应用程序。
2赞 hpaulj 8/8/2023
github.com/numpy/numpy/issues/10161，有一个很长一段时间的未决问题。peps.python.org/pep-0485/#numpy-isclose PEP 重新添加到 .iscloseisclosemath
0赞 OverLordGoldDragon 8/8/2023
@hpaulj 太好了，谢谢 - 在此处链接信息丰富的 math.isclose 创建者评论
0赞 hpaulj 8/8/2023
公差也可能因计算而异。一些长额因错误而臭名昭著。同样，对于具有近乎奇异矩阵的反演和矩阵乘法。

答： 暂无答案

上一个：Numpy AllClose 与 MPMath Almosteq

下一个：numpy 数组在传递到循环时会失去精度，因此比较不起作用