RK积分器中的长双精度误差饱和
作者:David 提问时间:5/20/2021
我正在尝试编写一个使用长双精度的积分器。我知道我的系统架构有很长的双重支持,但出于某种原因,我的积分器的精度最高为 16 位有效数字。这里有一些代码,它重现了我所看到的。此示例的积分器改编自此源代码。...
long-double 问答列表
作者:David 提问时间:5/20/2021
我正在尝试编写一个使用长双精度的积分器。我知道我的系统架构有很长的双重支持,但出于某种原因,我的积分器的精度最高为 16 位有效数字。这里有一些代码,它重现了我所看到的。此示例的积分器改编自此源代码。...
作者:zell 提问时间:9/24/2022
我怎么能理解另一个浮点悖论--- 0.1 表示为 double 比 0.1 表示为 long double 更准确? In [134]: np.double(0.1) Out[134]: 0.1 ...