值方法 问答列表

浮点文字中要尽可能正确地表示值的最小有效十进制位数是多少?

作者:xiver77 提问时间:4/25/2022

例如,使用 IEEE-754 32 位二进制浮点数,让我们表示 的值。它不能完全完成,但会产生最接近 的值。您可能希望以十进制形式写入该值,并让编译器将十进制文本转换为二进制浮点数。1 / 30x3e...

为什么 Clang 会添加额外的 FMA 指令?

作者:HesLg 提问时间:6/24/2022

#include <immintrin.h> __m256 mult(__m256 num) { return 278*num/(num+1400); } .LCPI0_0: .long 0x...

为什么 1e100 不能完全表示为 64 位浮点数?

作者:James Rider 提问时间:7/3/2022

有人告诉我,1e100 不能完全表示为 64 位浮点数。使用 64 位浮点数,我们可以在有效数中有 16 位有效数字,并操纵指数(最多约 10^308)。因此,由于 1e100 只有一个有效数字,为什...

在 Matlab 中计算 sin(pi/2-A) 和 cos(A) 是否有任何数值精度差异?

作者:Colin Wu 提问时间:1/11/2023

我正在阅读我的前辈同事编写的用于计算大圆距离的 matlab 函数。 地球表面两点之间的距离应使用以下公式计算: d = r * arccos[(sin(lat1) * sin(lat2)) + c...

数值方法与算法方法

作者:Marlon Brando 提问时间:10/22/2023

在我目前正在阅读的书中,确定性数值方法(例如基于梯度的方法:牛顿方法,无梯度的方法:Nelder-Mead)和算法方法(例如精确方法:穷举搜索,启发式方法:贪婪搜索)之间是有区别的。 我真的无法理解...

关于比较浮点数的公差和公式的原则性推理?

作者:shadowtalker 提问时间:2/14/2023

Python 标准库包含函数 math.isclose,它等效于: abs(a - b) <= max(rtol * max(abs(a), abs(b)), atol) Numpy 库同样包含...

是否可以使此表达式更准确并且不返回负值?

作者:aquaticapetheory 提问时间:2/25/2023

我正在使用 Julia,但我相信解决方案将主要跨不同语言进行翻译。 我想精确计算以下表达式,以获得 $T$ 的正值。Float64 a是一个正常数。平方根内的表达式应始终为正数,但当接近零时,由于...

C语言中梯度下降的数值不稳定性

作者:Niccolò Tiezzi 提问时间:6/11/2023

我用最陡峭的下降方法编写了一个简单的梯度下降算法。 对于陡峭的下降,我的意思是将步长优化为最小化 f(x - lambda*grad(f)) 的步长,其中 lambda 是步长,结果是每个方向都与前...

在 integrate() 失败时集成一个平滑函数

作者:cdalitz 提问时间:7/5/2023

当尝试在 R 中集成以下平滑函数时,我总是得到一个错误,要么是“积分可能是发散的”,要么是“达到的最大细分数”:integrate() 问题似乎是函数在 +/-1 左右接近零,但很难适当地设置限制,...

稀疏矩阵中的特征值减慢

作者:AncientSpark 提问时间:8/3/2023

矩阵的结构或内容是否存在可能导致特征值计算显著减慢的条件(除了稀疏性)?例如在 Matlab 中的 eig 或 eigs 中。 我正在尝试运行一种算法,其速度的主要瓶颈是在大型稀疏矩阵上进行多个特征...


共44条 当前第4页