我在四舍五入浮点数时遇到了问题。我正在解决一项任务，您需要将结果四舍五入到小数点后两位。但是当小数点后第三个点是 5 时，我不能这样做，因为它存储不正确。 例如：我的结果等于 1.005，应该四舍五...

我正在尝试使用下面的代码计算视锥体的侧表面。 输入：2 个节点，包含 x、y、z 值（绝对位置）和半径（位置半径）均为双精度 到目前为止我正在做什么： 1. 计算视锥体的长度 2.计算视锥体的侧表...

在这个问题的后续中，似乎有些数字根本不能用浮点数表示，而是近似值。 浮点数是如何存储的？ 不同尺寸是否有共同的标准？ 如果我使用浮点，我需要注意什么样的陷阱？ 它们是否跨语言兼容（即，我需要处...

对于这里的人来说，这可能是基本的。我只是一个计算机用户。 我在标准正态累积分布函数 （CDF） 的极值（0 和 1）附近徘徊，我注意到我们可以得到变量的大负值的非常小的概率值，但对于大的正值，我们在...

这个问题在这里已经有答案了： 浮点数学坏了吗？ （34 个答案） 4年前关闭。 我正在尝试打印出从 11 到 30 乘以 0.015 的整数 for ( let i = 11; i <= 30; ...

这个问题在这里已经有答案了： 浮点数学坏了吗？ （34 个答案） 4年前关闭。 为什么是 100./3.= 33.333333333333336 而不是 33.333333333333333 或 3...

我正在对科学应用进行一些数值优化。我注意到的一件事是 GCC 会通过将调用编译成 来优化调用，但调用没有优化，实际上会调用库函数，这大大降低了性能。（相比之下，英特尔 C++ 编译器（可执行文件）将消...

看看 Math 类，ulp 方法： public static float ulp(float f) 如果应用该方法，如下所示： ，则会出现 Javadoc 文档中的以下规则：Math.ulp(...

是否可以避免或发出从整数和到的自动 Numpy 类型转换的警告？32 bit float arrays64 bit float arrays 我的用例是，我正在开发一个大型分析包（20k 行 Pyt...

我正在寻找一个公式来限制浮点乘法传播的误差。我已经看到了以下陈述（但未得到证实）。 如果是 with bound ulps 的浮点近似值，并且同样是 with bound ulps 的浮点近似值，并...