关于“保护位”的维基百科提供了一个示例代码： #include <stdio.h> int main(){ double a; int i; a = 0.2; a += 0.1; a...

我想将一些小数点后四位的数字缩放为整数。在缩放这些数字时使用（或）会导致某些数字不准确吗？roundceiling 在 ghci 中： 期待 1009 ghci> let x = 1.009 * ...

我一直在尝试 Java 浮点数，我注意到一些奇怪的行为，这些行为似乎不会发生在其他语言中，比如 C#。 // Expecting 'x' to round down to 1500.455. flo...

在编程中，我只使用整数。但这次是进行一些计算。我需要计算欧拉-马斯切罗尼常数。最多小数点后 n 位。{虽然对我来说已经足够了。γn ∈ [30, 150] [x] = gif（x） = 数学地板（x...

据说，在双精度浮点数所涵盖的范围内，任何以 15 位精度表示的十进制数都可以用特定的浮点数唯一标识。但是，如果我们包含更多精度的数字（即 16），我们可能会看到两个或多个十进制数对应于同一个浮点数。有...

我偶然发现了 python 3 的“地板分割”的一个奇怪的边缘行为，使用 .经过一番计算，我得出了公式。用//(a1 - a2) // b a1 = 226.72560000000001 a2 = ...

由于 Javascript 中的浮点运算，我知道将在 Javascript 中，但我不明白为什么只将数字乘以 10，即 ，然后问题就可以解决了。应该乘以 ，对吧？0.2 + 0.1 = 0.30000...

只是为了好玩，因为它真的很容易，我写了一个简短的程序来生成嫁接数，但由于浮点精度问题，它没有找到一些更大的例子。 def isGrafting(a): for i in xrange(1, int...

我需要生成数百万个随机均匀分布的数字。 我在 https://docs.python.org/3/library/random.html 年尝试了聪明的配方 （FullRandom） 来生成更高精度...

已关闭。这个问题需要细节或澄清。它目前不接受答案。 想改进这个问题吗？通过编辑这篇文章添加详细信息并澄清问题。 4个月前关闭。 改进此问题 在 Kotlin 或 Java 中是否有办法将 Do...