我正在做一个项目，其中的统计数据会影响通过预制数学公式运行的其他统计数据，其中大部分工作正常，但我担心浮点函数的不精确性。 我尝试过使用 Decimal 模块，但它似乎不适用于下面示例的属性： p...

我正在尝试在汇编中实现fmodf函数。我使用了如下公式。 fmodf（浮点数 x，浮点数 y） = x - 截断（x / y） * y 问题是，当 x>>y 时，函数的精度会越来越差。事实上，当 ...

在 IEEE 754 算术中是否存在复制浮点值重复求和的 sub-O（n） 方式1？ 也就是说，有没有一种更快的方法可以精确地复制以下伪代码的结果： f64 notQuiteFMA(f64 acc...

类似于 Numpy astype 舍入到错误值，但这似乎是相反的问题，实际上是我想要的（截断）。在我的现实世界中，我正在进行各种计算，其中一些值可能会非常非常接近下一个整数，然后转换为整数。我希望数字...

public class doublePrecision { public static void main(String[] args) { double total = 0; total ...

下面的代码显然是错误的。怎么了？ i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i ...

我正在尝试找到一种方法来验证拉出的值是否始终显示到小数点后一位。 为了论证起见，让我们说： 长度 = 15.6 我目前正在调用该值作为 LengthValue。 如何检查 LengthValue...

我是计算科学专业的学生。当我在 AMD CPU 上处理混合精度项目时，我发现单精度数据的行为与双精度数据类似。有时，单精度数据比双精度数据花费更多的计算时间。但 Intel CPU 上的混合精度计算按...

这个问题在这里已经有答案了： 如何处理JavaScript中的浮点数精度？[复制] （46 个答案） 9年前关闭。 我在javascript中有大量的数值。我想通过将它们向下舍入到最接近的倍数来对它...

我目前正在编写一些代码，其中有如下内容： double a = SomeCalculation1(); double b = SomeCalculation2(); if (a < b) DoS...