问答列表

比较两个 32 位浮点值的增量值可以有多低?

作者:aybe 提问时间:8/14/2023

我有一套 240 个 FIR 滤波器卷积的单元测试,具有不同的抽头数量。 预期用途: 它用于在 Unity 中编写音频过滤器,最初的朴素卷积是在托管代码中完成的,但对于实时音频处理来说太慢了。 ...

使用直方图将变量 Y 采样为 X 的函数时,python 舍入错误?

作者:ClimateUnboxed 提问时间:8/16/2023

我正在尝试使用函数直方图将变量 (SST) 采样为另一个变量 (TCWV) 的函数,并将权重设置为采样变量,如下所示: # average sst over bins num, _ = np.his...

Python 程序不检查字符串中的“O”字符 [duplicate]

作者:Suhani Gurjar 提问时间:8/17/2023

这个问题在这里已经有答案了: 如何在迭代时从列表中删除项目? (25 个答案) 3个月前关闭。 我创建了一个程序,其中我有一个元素列表,分别是 string、int 和 float。我想从列表中删除...

恢复正弦波相移时的数值噪声(numpy)

作者:dHubley 提问时间:8/19/2023

使用下面的代码片段时,我预计displacement_sim的值几乎完全相等,但似乎存在大量的数值噪声。 import numpy as np import matplotlib.pyplot as...

如何在 Python 3 中使用“isclose”比较而不是绝对相等 (==) 对带有浮点数的元组进行排序?

作者:OnDraganov 提问时间:8/18/2023

我想主要按浮点数对对列表排序,其次按整数排序。问题在于比较浮点数是否相等——在许多情况下,我们得到的是任意比较,而不是求助于次阶。 例 my_list = [ (0, 1.2), (2, 0.0...

分割大笔款项;处理无穷大的总和

作者:0xbadf00d 提问时间:8/20/2023

我正在运行一种生成对的算法,其中 和 都是正 s。它们不是独立的; 取决于。算法完成后,我需要将 all 的总和除以 all 的总和。(t[i], x[i])t[i]x[i]double(t[i], ...

Printf 宽度说明符以保持浮点值的精度

作者:Vilhelm Gray 提问时间:5/30/2013

是否有宽度说明符可以应用于浮点说明符,该浮点说明符会自动将输出格式化为必要数量的有效数字,以便在重新扫描字符串时获取原始浮点值?printf 例如,假设我将 a 打印为小数点后一位的精度:float...

Google 表格比 Microsoft Excel 更准确还是更准确?

作者:bers 提问时间:7/1/2020

我知道浮点数的数值不准确的一般问题,但我希望 Excel 和 Google 表格的行为相同。不幸的是,他们没有 - 请参阅以下示例: A1: 15.525 our reference A2: =3*...

为什么 NAN 的比较返回 true?

作者:Aryan Singh 提问时间:8/21/2023

正如 Java 语言规范中所写的那样,“如果其中一个或两个操作数都是 NaN,则数值比较运算符 <、<=、> 和 >= 返回 false” 所以我比较了两个 NAN。 为什么当我比较两个 NAN 时,...

如何正确地将浮点数舍入到 epsilon 溢出

作者:Jan Schultke 提问时间:8/23/2023

为了在不允许重复的数据结构(如二叉树、堆等)中对浮点数进行排序,我想四舍五入到一定的精度级别,如下所示:float float round_to_epsilon(x); bool less_tha...


共817条 当前第68页