数值分析 问答列表

不带 strictfp 的最小精度单位

作者:fidudidu 提问时间:9/17/2019

看看 Math 类,ulp 方法: public static float ulp(float f) 如果应用该方法,如下所示: ,则会出现 Javadoc 文档中的以下规则:Math.ulp(...

除法 C 后双精度和小数的数值精度#

作者:makigjuro 提问时间:5/14/2021

我正在处理很多数学运算,主要是除法,在完成所有计算后,所有数字都与初始状态匹配,这一点非常重要。 例如,我正在 C# 中测试以下双精度代码: double total = 1000; doubl...

Common Lisp 中数值函数的近似导数和二阶导数 - 未按预期工作

作者:PaulM 提问时间:6/8/2021

我尝试了一种非常幼稚的方法来逼近 Lisp 中函数的一阶导数,并得出了这样的东西: (defparameter *delta-x* 0.00001) (defun diff (f x) (/ (...


共3条 当前第1页