精密 问答列表

C语言中梯度下降的数值不稳定性

作者:Niccolò Tiezzi 提问时间:6/11/2023

我用最陡峭的下降方法编写了一个简单的梯度下降算法。 对于陡峭的下降,我的意思是将步长优化为最小化 f(x - lambda*grad(f)) 的步长,其中 lambda 是步长,结果是每个方向都与前...

Matlab根据计算形式产生不同的矩阵乘积结果

作者:Ofri Sadowsky 提问时间:5/15/2023

在 Matlab 中,我以两种方式计算 2D 点集合的旋转:一种通过正矩阵矩阵乘积,另一种通过迭代向量矩阵积,如下所示。 >> points = % read data from some file...

为什么我们渐近地接近值 0 比值 1 “更多”?

作者:Alecos Papadopoulos 提问时间:7/29/2019

对于这里的人来说,这可能是基本的。我只是一个计算机用户。 我在标准正态累积分布函数 (CDF) 的极值(0 和 1)附近徘徊,我注意到我们可以得到变量的大负值的非常小的概率值,但对于大的正值,我们在...

是否可以使此表达式更准确并且不返回负值?

作者:aquaticapetheory 提问时间:2/25/2023

我正在使用 Julia,但我相信解决方案将主要跨不同语言进行翻译。 我想精确计算以下表达式,以获得 $T$ 的正值。Float64 a是一个正常数。平方根内的表达式应始终为正数,但当接近零时,由于...

计算这个“简单”浮点函数的确切逆函数

作者:D0SBoots 提问时间:1/29/2023

我有以下功能: float int_to_qty(unsigned x) { const float MAX = 8.5f; const float MIN = .001f; return (...

矩阵乘法简化在代码中不给出相同的结果

作者:k12345 提问时间:12/3/2022

我想在 Matlab 中计算表达式 xTAx -2y T Ax+yTAy。 如果我的计算是正确的,这应该等同于求解(x-y)TA(x-y) 我现在的主要问题是我没有从上述两个表达式中得到相同的结果...

对称带矩阵向量乘法

作者:2Napasa 提问时间:8/5/2022

尝试将对称带矩阵乘以向量,即简单乘法 A*x = b 其中 A 是对称带矩阵,存储格式如下。因此,它的下半部分不会保存到存储中。 cols是包含非零波段索引的向量,例如 是主对角线,是位于主对角...

为什么 1e100 不能完全表示为 64 位浮点数?

作者:James Rider 提问时间:7/3/2022

有人告诉我,1e100 不能完全表示为 64 位浮点数。使用 64 位浮点数,我们可以在有效数中有 16 位有效数字,并操纵指数(最多约 10^308)。因此,由于 1e100 只有一个有效数字,为什...

在 fortran 中使用 selected_real_kind() 时保存常量的正确方法

作者:ferro11001 提问时间:6/3/2022

我正在对 real(kind=8) 使用 selected_real_kind() 来检查我需要多少额外的处理器时间来提高数值精度。我使用的参数集是: module param implicit n...

为什么IEEE754双精度格式只能精确到 15 位?

作者:xdxt 提问时间:4/25/2022

我目前正在学习浮点表示。根据本网站,以下是此表示的可能范围。-1.79E+308 至 -2.23E-308、0 和 2.23E-308 至 1.79E+308。问题是,我不太明白这个范围意味着什么。既...


共23条 当前第2页