long-double 问答列表

RK积分器中的长双精度误差饱和

作者:David 提问时间:5/20/2021

我正在尝试编写一个使用长双精度的积分器。我知道我的系统架构有很长的双重支持,但出于某种原因,我的积分器的精度最高为 16 位有效数字。这里有一些代码,它重现了我所看到的。此示例的积分器改编自此源代码。...

为什么 double 0.1 比它的 long double 版本更准确?

作者:zell 提问时间:9/24/2022

我怎么能理解另一个浮点悖论--- 0.1 表示为 double 比 0.1 表示为 long double 更准确? In [134]: np.double(0.1) Out[134]: 0.1 ...


共2条 当前第1页