精度 问答列表

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

C语言中的纬度/经度存储和压缩

作者:Justicle 提问时间:8/3/2009

有谁知道纬度/经度坐标的最有效表示?对于消费类 GPS 设备来说,精度水平应该足够。 大多数实现似乎都用于每个单元,但我怀疑定点格式或定点格式就足够了。我很想听听任何试图压缩和/或存储这些值的大型数...

NumPy 数组中高浮点错误的解决方法

作者:javery 提问时间:11/16/2023

我有代表 24(?) 响应的数据-位 A/D 转换器。我正在下面的函数中将数据设置为多项式回归,但我得到了有害的浮点误差,以至于它使我的回归系数以后完全无法使用。 数据经过归一化后,范围介于 -1 ...

imshow 绘制非常大的整数,但“dtype 对象无法转换为浮点数”

作者:D.R 提问时间:11/15/2023

我有以下代码,在网格上绘制一个函数,其中该函数恰好具有非常大的整数值: import matplotlib.pyplot as plt from matplotlib.ticker import S...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...


共694条 当前第1页