像 0.1 这样的数字不能用二进制浮点数精确表示，所以我想以尽可能高的精度打印出来。我知道 64 位类型只能提供高达 15 位左右的有意义的精度，但更多的数字会揭示浮点近似值和实际值之间的差异。dou...

我想实现类似浮点精度的东西，其中模板函数控制 point（.） 之后的位数。（或分数）？ template <typename T, unsigned int PRECISION = 4> co...

Glm 在内部使用 float 并以非常高的精度评估值。问题在于，使用此类值的常规操作可能会返回不正确的结果。考虑以下 gdb 输出： 49 return glm::normalize(coord ...

我想使用 Python 与 Kraken REST API （https://support.kraken.com/hc/en-us/articles/360025180232-REST-API-co...

我想将一些小数点后四位的数字缩放为整数。在缩放这些数字时使用（或）会导致某些数字不准确吗？roundceiling 在 ghci 中： 期待 1009 ghci> let x = 1.009 * ...

我一直在尝试 Java 浮点数，我注意到一些奇怪的行为，这些行为似乎不会发生在其他语言中，比如 C#。 // Expecting 'x' to round down to 1500.455. flo...

在编程中，我只使用整数。但这次是进行一些计算。我需要计算欧拉-马斯切罗尼常数。最多小数点后 n 位。{虽然对我来说已经足够了。γn ∈ [30, 150] [x] = gif（x） = 数学地板（x...

我有一个函数，它传递了一个一维坐标数组。这些是已在字典中定义分段函数的部分的末尾，也作为输入传入。但是，在进行比较时，数组值会更改循环中的精度，因此比较不再起作用。代码如下： def parse_m...

我有一套 240 个 FIR 滤波器卷积的单元测试，具有不同的抽头数量。 预期用途： 它用于在 Unity 中编写音频过滤器，最初的朴素卷积是在托管代码中完成的，但对于实时音频处理来说太慢了。 ...

g0 = randn(1, 100); g1 = g0; g1(2:end) = flip(g1(2:end)); sprintf("%.15e", sum(g0) - sum(g1)) g0 = ...