浮点数学坏了吗?
作者:Cato Johnston 提问时间:2/26/2009
请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...
度 问答列表
作者:Cato Johnston 提问时间:2/26/2009
请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...
作者:mcu 提问时间:10/25/2015
我突然想到,比较浮子的一个好方法是用浮子缩放公差。这是个好主意吗? 此例程需要针对特殊数量(例如 NaN、+/-Inf)进行扩展,但它给出了一个基本概念。 def FloatEq(a, b, To...
作者:Sandra Grace Nelson 提问时间:11/1/2023
看,我有两个形状为 (2048,) 和 (3,) 的数组。有没有办法将其中两个结合起来?不要只是串联起来。来自 (2048,) 的所有值都应具有来自 (3,) 的值的效果。我实际上的意思是,我的图像嵌...
作者:Justin 提问时间:11/11/2023
我知道这应该更容易,但我在比较浮点值时遇到了问题。 我有一些非常基本的代码,可以做一些事情: 任何低于 5 的权重都将添加到light_pkgs。 任何超过 15 的权重都将添加到heavy_pk...
作者:Jaanus 提问时间:9/4/2009
请参阅此代码: var jsonString = '{"id":714341252076979033,"type":"FUZZY"}'; var jsonParsed = JSON.parse(js...
作者:Greg 提问时间:2/10/2010
甚至有那么不准确吗?我用 Apfloat 任意精确地重新实现了整个事情,它没有任何区别,我应该知道一开始! public static double bearing(LatLng latLng1, ...
作者:Will Sumekar 提问时间:2/22/2011
考虑 Oracle 类型为 NUMBER 的 SQL 语句。INSERT INTO table (field) VALUES (-0.11111111)field 当要插入的值的类型为 float ...
作者:Arjan 提问时间:10/17/2023
我正在尝试将 .e57 点云转换为 .las 点云,但我遇到了似乎是由准确性引起的问题。下图说明了 CloudCompare 中的原始 .e57 与 CloudCompare 中转换后的 .las 文...
作者:kleite 提问时间:10/13/2023
我必须使用 Python3(PyPy 实现)分析大量数据,在其中我对相当大的浮点数进行一些操作,并且必须检查结果是否足够接近整数。 举例来说,假设我正在生成随机的数字对,并检查它们是否形成毕达哥拉斯...
作者:dplanet 提问时间:3/1/2012
下面的代码显然是错误的。怎么了? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i ...