这不是关于浮点如何工作的问题。也不是关于为什么 19.95 * 0.1 产生 19.900000000004 的问题。我已经明白浮点数学不是一个完美的演示。问题在于向专家询问他们的直觉，为什么这种特殊...

将 a / 乘以 2 应该是精确的，因为它只会增加指数部分。floatdouble 将两个相同值的浮点数相加怎么样？会准确吗？ （如果重要的话，硬件是标准的 x86-64）。...

有人反向排序而不是通常的排序，这让我想知道：失败的最小正整数情况是什么*？我认为它一定是两个连续的整数并且具有相同的倒数。我发现的最小的是：1/i-iii+1floati = 636905172111...

我想知道在归一化矢量（特别是 3D 矢量）时，浮点误差会有多严重。归一化一次应该给出与归一化两次相同的值，但正如预期的那样，浮点不准确并不能保证我们这一点。因此，我决定测试一些其他东西：如果你无限期地...

我正在测试这样的操作： [input] 3.9/0.1 : 4.1/0.1 [output] 39 40 不知道为什么近似为 .如果我添加一个 ，它将按预期进行：4.1/0.140round()...

Python 计算虚数单位 i = sqrt（-1） 不准确： >>> (-1) ** 0.5 (6.123233995736766e-17+1j) 应该是确切的（Python 称其为 j 而不...

我想我理解为什么我们将其视为隐式 1 和规范化，如何表示值等等。我唯一的问题是它的机器端如何，就像当机器读取/解释值时如何区分隐式 1 和 0 一样。我不知道我问的是否正确。基本上是机器如何区分归一化...

因此，我要求用户提供一些带有循环的数字输入。 之后，对输入进行处理，数学结果与使用计算器完成的实际数学运算略有不同。 它是否将 0 中断值作为输入并以某种方式搞砸了我的平均值？ values = [...

我目前正在进行坐标之间的距离计算，并且根据所使用的语言得到的结果略有不同。 计算的一部分是计算给定的 .我得到以下结果cosineradian // cos(0.8941658257446736)...

感谢您阅读本文。 c# 中的浮点数范围为 +- 3.4 * 10^38，双精度 1.7 ^308 请考虑以下程序： using System; double nice; float wow; n...