点精度 问答列表

为什么这些数字不相等?

作者:dplanet 提问时间:3/1/2012

下面的代码显然是错误的。怎么了? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i ...

为什么显式整数转换未按预期应用

作者:MarlonB 提问时间:9/19/2023

请注意,我的问题不是“为什么浮点数会失去精度”我知道并非一个数字的所有小数部分都可以以二进制形式存在。真正存储的实际上是“最接近的数字” 占据了所有尾数位空间。 鉴于: //This is jus...

通过特征值/特征向量计算SVD的精度

作者:ATu 提问时间:10/31/2023

在倍频程中,我使用特征分解来计算 svd 而不是 svd 函数 istelfand 比较结果。 使用退出的 SVD 函数时出现错误 [U2,S2,V2] = svd(A2); errU2U2t =...

使用缩放容差比较浮点数

作者:mcu 提问时间:10/25/2015

我突然想到,比较浮子的一个好方法是用浮子缩放公差。这是个好主意吗? 此例程需要针对特殊数量(例如 NaN、+/-Inf)进行扩展,但它给出了一个基本概念。 def FloatEq(a, b, To...

浮点问题,减法后选择 epsilon [已关闭]

作者:Bojan Hrnkas 提问时间:11/14/2023

已关闭。这个问题需要细节或澄清。它目前不接受答案。 想改进这个问题吗?通过编辑这篇文章添加详细信息并澄清问题。 5天前关闭。 这篇文章在 5 天前经过编辑并提交审核。 改进此问题 浮点不准确...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...


共176条 当前第18页