已关闭。这个问题需要细节或澄清。它目前不接受答案。 想改进这个问题吗？通过编辑这篇文章添加详细信息并澄清问题。 5天前关闭。 这篇文章在 5 天前经过编辑并提交审核。 改进此问题 浮点不准确...

这个问题在这里已经有答案了： 为什么浮点数不准确？ （5 个答案） 浮点数学坏了吗？ （34 个答案） 5天前关闭。 请看以下示例： int main() { float x = 1.0f; ...

例如，据我所知，一个浮点 x，其 x/n^2 可能不等于 x/n/n，因为在 x/n/n 中，这将首先创建一个中间 x/n。例如： document.write(1.23456789/49 == 1...

有谁知道纬度/经度坐标的最有效表示？对于消费类 GPS 设备来说，精度水平应该足够。 大多数实现似乎都用于每个单元，但我怀疑定点格式或定点格式就足够了。我很想听听任何试图压缩和/或存储这些值的大型数...

我有代表 24（？） 响应的数据-位 A/D 转换器。我正在下面的函数中将数据设置为多项式回归，但我得到了有害的浮点误差，以至于它使我的回归系数以后完全无法使用。 数据经过归一化后，范围介于 -1 ...

我有以下代码，在网格上绘制一个函数，其中该函数恰好具有非常大的整数值： import matplotlib.pyplot as plt from matplotlib.ticker import S...

请考虑以下代码： 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处？...

这个问题在这里已经有答案了： 浮点数学坏了吗？ （34 个答案） 2天前关闭。 我在 Java 中遇到了长数浮点数或双精度的问题。 如果我执行： for ( float value = 0.0f...

我想知道是否有一种方法可以克服精度问题，这似乎是我的机器内部浮点数表示的结果： 为清楚起见，问题总结为： // str is "4.600"; atof( str ) is 4.599999999...

我正在尝试在 Ruby 的 Windows 上使用 COM 组件，该组件需要单精度数字。 在 C# 中，我能够像这样将数字从双精度转换为单精度。 float mynumber = (float)2...