问答列表

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

在 0..1 之间将 u64 转换为 f64

作者:BlueOyster 提问时间:11/17/2023

我需要一个非常快速的伪随机数生成器来处理我一直在做的项目。到目前为止,我已经实现了 xorshift 算法,可以生成伪随机 u64。但是,我需要将这些 u64 转换为 0 到 1 之间的浮点值。 我...

float8、float16、float32、float64 和 float128 可以包含多少位数字?

作者:mathguy 提问时间:6/9/2019

Numpy 的 dtype 文档仅显示每个浮点数类型的“x 位指数,y 位尾数”,但我无法将其准确转换为小数点前后的数字。有没有简单的公式/表格可以查找?...

Java 中的 x86 80 位浮点类型

作者:box 提问时间:10/29/2015

我想模拟 x86 扩展精度类型,并在 Java 中对其他类型执行算术运算和强制转换。 我可以尝试使用 BigDecimal 实现它,但涵盖围绕 NaN、无穷大和强制转换的所有特殊情况可能是一项繁琐的...


共817条 当前第4页