我是使用 Fortran 语言的新手，我正在处理一个预先编写的程序，我必须进行一些更改，并且我在程序的语句区域将所有 8 字节变量声明为 REAL（8）。但是，在将数值归因于变量和/或数组时，原始程序...

我正在尝试为来自执行某些方程式的 SELECT 的结果实现相同的精度（小数点后位数）。 在性能方面是否有任何区别，在 CAST（） 或 ROUND（） 之间实现所需的精度的情况下，除了四舍五入最后一...

有没有一种好的方法来计算正确舍入的结果 sqrt(a+b) 对于浮点数 和（精度相同），where 和 ？ab0<=a<+inf0<=b<+inf 特别是，对于计算会溢出的输入值？a+b （...

如果我尝试打印具有最大精度的类型浮点值，例如： printf("%.100e", FLT_MIN); 我明白了： 1.1754943508222875079687365372222456778...

我正在处理很多数学运算，主要是除法，在完成所有计算后，所有数字都与初始状态匹配，这一点非常重要。 例如，我正在 C# 中测试以下双精度代码： double total = 1000; doubl...

我正在尝试编写一个使用长双精度的积分器。我知道我的系统架构有很长的双重支持，但出于某种原因，我的积分器的精度最高为 16 位有效数字。这里有一些代码，它重现了我所看到的。此示例的积分器改编自此源代码。...

我尝试使用 pandas 将 excel 工作表读入数据帧，但对于浮点列，数据读取不正确。我使用函数 read_excel（） 来完成任务 在 excel 中，值是 225789.479905466...

对于某些工作负载，双精度浮点数并不完全足够，因此需要四精度。这在硬件中很少提供，因此解决方法是使用 double-double，其中 128 位数字由一对 64 位数字表示。这不是真正的 IEEE-7...

双精度（即 64 位）浮点运算中的最大数字是（基点后有 51 个）。此数字小于 。因此，当我分配 时，我希望它将存储为 。然而，事实并非如此。在交互式控制台中呼叫将显示 。我能想到的唯一解释是 Mat...

我有一个数组来表示时间： t = linspace(-30,30,N); 然后我执行以下操作： plot(sech(t) + 1e-4 - sech(t)) 它给出了以下图： 通常，这不...