浮点 问答列表

可由小于 1 的浮点类型表示的最大值

作者:0xbadf00d 提问时间:3/7/2022

有没有办法获得由小于 的浮点类型表示的最大值。float1 我看到了以下定义: static const double DoubleOneMinusEpsilon = 0x1.ffffffffff...

如何比较浮点数是否与一组浮点范围?

作者:Mmx 提问时间:3/29/2022

例如,我有 4 个范围: 0 - 1.25 1.26 - 2.45 2.46 - 5 5.01 - 无穷大 我有一个浮点数可以比较:1.2549999999。 我需要检查这个数字属于什么范围。 ...

从 float 到 double 的 NaN 转换会更改其基础数据

作者:Dan 提问时间:4/7/2022

int main(){ unsigned int a = 2139156962; float b = *(float*)&a; // nan(0xf1e2) double c = (doubl...

acos(1) 为某些值返回 NaN,而不是为其他值返回 NaN

作者:David Manheim 提问时间:12/25/2012

我有一个纬度和经度值列表,我正在尝试找到它们之间的距离。使用标准的大圆方法,我需要找到: acos(sin(lat1)*sin(lat2) + cos(lat1)*cos(lat2) * cos(l...

Pandas json 转换扰乱浮点精度

作者:Titouan L 提问时间:4/8/2022

将 DataFrame 保存为 json 字符串后,当 json 被转换回 DataFrame 时,初始 DataFrame 和生成的 DataFrame 不相等。我知道使用 时存在转换问题,但是由于...

如何防止浮点变量在打印时显示为科学记数法 [重复]

作者:Maria Sahithya 提问时间:9/11/2020

这个问题在这里已经有答案了: 为什么PHP用科学记数法打印我的数字,而我将其指定为.000021? (8 个答案) 去年关闭。 我使用“(float)$val”进行一些计算,但对于一些十进制值,例如...

熊猫指数功率没有按应有的方式计算

作者:Paris Spinelli 提问时间:4/21/2022

我想我在 PANDA 中使用指数时发现了浮点精度的问题。我有一个数字列表,我正在通过 4 阶多项式运行,当我得到大于 2 的阶时,我注意到 Pandas 中预测的值不正确。代码如下: import ...

与浮子和双精度相关的概念

作者:Hash Blog 提问时间:5/14/2021

为什么 的精度在小数点后最多 6 位,而 的精度在小数点后最多 15 位?floatdouble 谁能给出一个数学解释?...

为什么IEEE754双精度格式只能精确到 15 位?

作者:xdxt 提问时间:4/25/2022

我目前正在学习浮点表示。根据本网站,以下是此表示的可能范围。-1.79E+308 至 -2.23E-308、0 和 2.23E-308 至 1.79E+308。问题是,我不太明白这个范围意味着什么。既...

为什么我会收到错误:“TypeError: can't multiply sequence by non-int of type 'float'”?

作者:Ccamp 提问时间:4/25/2022

我正在尝试编写一个计算器来打印相对和绝对误差。在算法的最后一步中,我需要创建一个新列表来保留 Y 的新值,但我收到错误: TypeError:无法将序列乘以“float”类型的非整数 代码如下: ...


共635条 当前第26页