浮点 问答列表

使用 numpy.float128 对大于 epsilon 的数字进行添加的错误结果

作者:Falk 提问时间:2/3/2022

考虑到 epsilon 是您可以加到 1 的最小数字。 当我执行加法并打印结果时,我得到的是 1 而不是 1+epsilon。 我已经实现了一个函数。我添加了一个用于调试的语句。getEpsilo...

从 R 中的 scale::p ercent() 中删除百分号

作者:krishthw 提问时间:6/13/2020

这是我的代码。 my_boxplot <- ggplot(mtcars,aes(x=as.factor(cyl),y=mpg)) + geom_boxplot(aes(fill=cyl,colo...

如何从 std::istream 解析浮点无穷大

作者:skalet 提问时间:2/3/2022

我为我正在处理的一个项目编写了一个超级愚蠢的序列化库。 我刚刚被浮点无穷大咬了一口,我用下面的示例程序说明了这一点。我希望程序打印,但它会打印。 如何使用和接口修复它以给出浮点无穷大(和 NaN)的正...

比较两个 pandas 系列的浮点近似相等?

作者:Mark Harrison 提问时间:10/4/2017

我可以使用 .是否有相应的函数或参数来检查元素是否等于某些精度ε?pandas.Series.equals...

如何在 php 中处理浮点数时获得一致的结果

作者:AzDesign 提问时间:2/7/2022

代码如下: $nums = ['3','3','5.26','3','9.11','9.11','9.11','9.11','9.11','9.11','9.11','9.11','9.11','1...

获得两个“接近”IEEE754双精度值之间的“精确”差异?

作者:Martin Ba 提问时间:2/9/2022

我什至不确定我所要求的是否可能,但这里是: 我们的 C++ 代码执行以下计算: double get_delta(double lhs, double rhs) { return lhs - r...

为什么 JavaScript 中的 0.3 + 0 == 0.3 和 0.1 + 0 == 0.1 不能完全用二进制表示

作者:runtimeerror 提问时间:2/14/2022

第一个问题: 如果我们这样做,在 java 脚本中。 0.2 + 0.1 =>0.30000000000000004 因为 0.2,0.1 四舍五入为不同的数字,总和也四舍五入为不同的数字 本文...

Fortran 中变量获取的 E-318 值的含义

作者:Babaji 提问时间:2/23/2022

我正在 Fortran 90 中执行一些计算。一个特定的变量(声明为隐式双精度)取的值类似于 。起初,我忽略了它,假设它可能只是零(变量应该取的值也是零)。但是现在我想知道 E-318 是否表示我的代...

A+B+C 的 add3 指令,单次舍入

作者:Nico Schlömer 提问时间:2/21/2018

背景 众所周知,两个浮点数的确切乘积并不总是浮点数,但误差是。一些精确乘法代码通过返回两个数字来利用这一点exact(a*b) - float(a*b) res = a * b err = fma...

Numpy 数组浮点精度不是确定的

作者:ma7555 提问时间:3/3/2022

所以在运行下面的snipet时 import numpy as np X = np.array([-0.20000008], dtype=np.float32) np.floor((X + 1) ...


共635条 当前第25页