点精度 问答列表

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

setprecision 和浮点

作者:SRYZDN 提问时间:1/21/2015

运行以下代码,我希望收到这样的输出: Desired output: Car Hours Charge 1 1.5 2.00 2 4.0 2.50 3 24.0 10.00 但结果如下: Ac...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

bc 精确到小数点后几位?

作者:Ian Stewart 提问时间:8/10/2022

可以将平方根打印到几百位小数位,就像在 C 中一样。但是,在 C 中,它只能精确到 15。我已经检查了 2 到 50 位小数的平方根,它是准确的,但限制是什么?我找不到任何关于此的参考资料。bcbc...

隐式 1 如何存储并与次正态值的 0 进行区分?

作者:newbie1kenobi 提问时间:7/23/2022

我想我理解为什么我们将其视为隐式 1 和规范化,如何表示值等等。我唯一的问题是它的机器端如何,就像当机器读取/解释值时如何区分隐式 1 和 0 一样。我不知道我问的是否正确。基本上是机器如何区分归一化...


共176条 当前第4页