问答列表

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

使用缩放容差比较浮点数

作者:mcu 提问时间:10/25/2015

我突然想到,比较浮子的一个好方法是用浮子缩放公差。这是个好主意吗? 此例程需要针对特殊数量(例如 NaN、+/-Inf)进行扩展,但它给出了一个基本概念。 def FloatEq(a, b, To...

如何将图像嵌入与图像的主色值相结合?

作者:Sandra Grace Nelson 提问时间:11/1/2023

看,我有两个形状为 (2048,) 和 (3,) 的数组。有没有办法将其中两个结合起来?不要只是串联起来。来自 (2048,) 的所有值都应具有来自 (3,) 的值的效果。我实际上的意思是,我的图像嵌...

在 Python 中比较浮点数时遇到问题

作者:Justin 提问时间:11/11/2023

我知道这应该更容易,但我在比较浮点值时遇到了问题。 我有一些非常基本的代码,可以做一些事情: 任何低于 5 的权重都将添加到light_pkgs。 任何超过 15 的权重都将添加到heavy_pk...

JavaScript 中错误地舍入了大数字

作者:Jaanus 提问时间:9/4/2009

请参阅此代码: var jsonString = '{"id":714341252076979033,"type":"FUZZY"}'; var jsonParsed = JSON.parse(js...

为什么这个方位计算如此不准确?

作者:Greg 提问时间:2/10/2010

甚至有那么不准确吗?我用 Apfloat 任意精确地重新实现了整个事情,它没有任何区别,我应该知道一开始! public static double bearing(LatLng latLng1, ...

在 JDBC Insert 中用随机数填充的 BigDecimal 变量

作者:Will Sumekar 提问时间:2/22/2011

考虑 Oracle 类型为 NUMBER 的 SQL 语句。INSERT INTO table (field) VALUES (-0.11111111)field 当要插入的值的类型为 float ...

在 Python 中使用 pye57 和 laspy 将 E57 转换为 LAS 的准确性问题

作者:Arjan 提问时间:10/17/2023

我正在尝试将 .e57 点云转换为 .las 点云,但我遇到了似乎是由准确性引起的问题。下图说明了 CloudCompare 中的原始 .e57 与 CloudCompare 中转换后的 .las 文...

如何在双双算术中正确四舍五入到最接近的整数

作者:kleite 提问时间:10/13/2023

我必须使用 Python3(PyPy 实现)分析大量数据,在其中我对相当大的浮点数进行一些操作,并且必须检查结果是否足够接近整数。 举例来说,假设我正在生成随机的数字对,并检查它们是否形成毕达哥拉斯...

为什么这些数字不相等?

作者:dplanet 提问时间:3/1/2012

下面的代码显然是错误的。怎么了? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i ...


共1296条 当前第6页