JavaScript 似乎做错了浮点(与 C 相比)
作者:Oscar Smith 提问时间:5/17/2019
从我在网上找到的所有内容来看,据称 JavaScript 使用 IEEE 754 双精度作为其数字,但我发现数字可以在 C 双精度中工作,但在 JavaScript 中不起作用。例如 #includ...
精度 问答列表
作者:Oscar Smith 提问时间:5/17/2019
从我在网上找到的所有内容来看,据称 JavaScript 使用 IEEE 754 双精度作为其数字,但我发现数字可以在 C 双精度中工作,但在 JavaScript 中不起作用。例如 #includ...
作者:Georgios Sarantitis 提问时间:1/27/2022
我正在执行我之前在相同数据上运行过的脚本。我得到的数据帧与前一个数据帧仅略有不同(在小数点后第 10 位左右)。例如: 在某一列(和行)中,旧 DataFrame 包含价格 5673391.88。 ...
作者:Neo Anderson 提问时间:1/29/2022
这里丹尼尔提到 ...在 [0, 2²⁴) 中选取任何整数,并将其除以 2²⁴,然后可以通过将结果再次乘以 2²⁴ 来恢复原始整数。这适用于 2²⁴,但不适用于 2²⁵ 或任何其他更大的数字。 但...
作者:sdbbs 提问时间:1/30/2022
请看这个例子: import pandas as pd from decimal import Decimal my_df = pd.DataFrame(columns=["a", "b", "c...
作者:Falk 提问时间:2/3/2022
考虑到 epsilon 是您可以加到 1 的最小数字。 当我执行加法并打印结果时,我得到的是 1 而不是 1+epsilon。 我已经实现了一个函数。我添加了一个用于调试的语句。getEpsilo...
作者:krishthw 提问时间:6/13/2020
这是我的代码。 my_boxplot <- ggplot(mtcars,aes(x=as.factor(cyl),y=mpg)) + geom_boxplot(aes(fill=cyl,colo...
作者:Martin Ba 提问时间:2/9/2022
我什至不确定我所要求的是否可能,但这里是: 我们的 C++ 代码执行以下计算: double get_delta(double lhs, double rhs) { return lhs - r...
作者:runtimeerror 提问时间:2/14/2022
第一个问题: 如果我们这样做,在 java 脚本中。 0.2 + 0.1 =>0.30000000000000004 因为 0.2,0.1 四舍五入为不同的数字,总和也四舍五入为不同的数字 本文...
作者:TheDivine 提问时间:2/22/2022
这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 去年关闭。 我目前正在使用 JS、DiscordJS 和 MySQL,并试图从表中获取一些数据,这些数据通常总是可以正常工作。但是我...
作者:Babaji 提问时间:2/23/2022
我正在 Fortran 90 中执行一些计算。一个特定的变量(声明为隐式双精度)取的值类似于 。起初,我忽略了它,假设它可能只是零(变量应该取的值也是零)。但是现在我想知道 E-318 是否表示我的代...