我想将一些小数点后四位的数字缩放为整数。在缩放这些数字时使用（或）会导致某些数字不准确吗？roundceiling 在 ghci 中： 期待 1009 ghci> let x = 1.009 * ...

这个问题在这里已经有答案了： 浮点数学坏了吗？ （34 个答案） 6个月前关闭。 我试图更深入地理解浮点数。我知道二进制（以 2 为基数）浮点数不能完全表示某些十进制数。但是我对 Java 中 do...

我创建了一个类，允许拆分为整数值和二进制指数（用于一些精确的计算）。long double 我的问题很难重现，因为该类通常运行良好，但在我测试过的一台特定机器上，它在每次转换时都会丢失一些最低有效位...

我的教科书是这么说的 [这是我的代码] package streams; public class streams { public static void main(String[] arg...

已关闭。这个问题需要细节或澄清。它目前不接受答案。 想改进这个问题吗？通过编辑这篇文章添加详细信息并澄清问题。 8个月前关闭。 改进此问题 我正在使用Unity引擎制作游戏。 我正在使用一个双...

我在使用 CUDA FFT 库时遇到了一些问题。 我将输入声明为 cuDoubleComplex，但编译器返回错误，指出此类型与 cufftComplex 类型的参数不兼容。在互联网上搜索了一番后，...

我有一个函数，可以将输入数字的小数部分转换为另一个数字系统（不是最漂亮的代码）： void FracToAny(double D, int q, int t) { double b[10] = {...

当我第一次获得 Haswell 处理器时，我尝试实现 FMA 来确定曼德布洛特集。主要算法是这样的： intn = 0; for(int32_t i=0; i<maxiter; i++) { fl...

对于某些工作负载，双精度浮点数并不完全足够，因此需要四精度。这在硬件中很少提供，因此解决方法是使用 double-double，其中 128 位数字由一对 64 位数字表示。这不是真正的 IEEE-7...

一段时间以来，我仍然无法找到dd_real（定义为）数如何被拆分为两个双精度的。比如说，如果我用字符串初始化它，会是什么 和 ？我需要理解它，然后编写一个希望很小的 Python 函数来做到这一点。s...