精度 问答列表

JavaScript 似乎做错了浮点(与 C 相比)

作者:Oscar Smith 提问时间:5/17/2019

从我在网上找到的所有内容来看,据称 JavaScript 使用 IEEE 754 双精度作为其数字,但我发现数字可以在 C 双精度中工作,但在 JavaScript 中不起作用。例如 #includ...

在相同的 pandas 数据上运行相同的脚本会生成略有不同的 DataFrame 浮点值

作者:Georgios Sarantitis 提问时间:1/27/2022

我正在执行我之前在相同数据上运行过的脚本。我得到的数据帧与前一个数据帧仅略有不同(在小数点后第 10 位左右)。例如: 在某一列(和行)中,旧 DataFrame 包含价格 5673391.88。 ...

numpy 如何设法将 float32 除以 2**63?

作者:Neo Anderson 提问时间:1/29/2022

这里丹尼尔提到 ...在 [0, 2²⁴) 中选取任何整数,并将其除以 2²⁴,然后可以通过将结果再次乘以 2²⁴ 来恢复原始整数。这适用于 2²⁴,但不适用于 2²⁵ 或任何其他更大的数字。 但...

控制浮点小数的打印输出,在 Pandas DataFrame 中使用小数。小数点后条目?

作者:sdbbs 提问时间:1/30/2022

请看这个例子: import pandas as pd from decimal import Decimal my_df = pd.DataFrame(columns=["a", "b", "c...

使用 numpy.float128 对大于 epsilon 的数字进行添加的错误结果

作者:Falk 提问时间:2/3/2022

考虑到 epsilon 是您可以加到 1 的最小数字。 当我执行加法并打印结果时,我得到的是 1 而不是 1+epsilon。 我已经实现了一个函数。我添加了一个用于调试的语句。getEpsilo...

从 R 中的 scale::p ercent() 中删除百分号

作者:krishthw 提问时间:6/13/2020

这是我的代码。 my_boxplot <- ggplot(mtcars,aes(x=as.factor(cyl),y=mpg)) + geom_boxplot(aes(fill=cyl,colo...

获得两个“接近”IEEE754双精度值之间的“精确”差异?

作者:Martin Ba 提问时间:2/9/2022

我什至不确定我所要求的是否可能,但这里是: 我们的 C++ 代码执行以下计算: double get_delta(double lhs, double rhs) { return lhs - r...

为什么 JavaScript 中的 0.3 + 0 == 0.3 和 0.1 + 0 == 0.1 不能完全用二进制表示

作者:runtimeerror 提问时间:2/14/2022

第一个问题: 如果我们这样做,在 java 脚本中。 0.2 + 0.1 =>0.30000000000000004 因为 0.2,0.1 四舍五入为不同的数字,总和也四舍五入为不同的数字 本文...

MySQL SELECT 不检查值是否精确 [duplicate]

作者:TheDivine 提问时间:2/22/2022

这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 去年关闭。 我目前正在使用 JS、DiscordJS 和 MySQL,并试图从表中获取一些数据,这些数据通常总是可以正常工作。但是我...

Fortran 中变量获取的 E-318 值的含义

作者:Babaji 提问时间:2/23/2022

我正在 Fortran 90 中执行一些计算。一个特定的变量(声明为隐式双精度)取的值类似于 。起初,我忽略了它,假设它可能只是零(变量应该取的值也是零)。但是现在我想知道 E-318 是否表示我的代...


共694条 当前第64页