比较两个 32 位浮点值的增量值可以有多低?
作者:aybe 提问时间:8/14/2023
我有一套 240 个 FIR 滤波器卷积的单元测试,具有不同的抽头数量。 预期用途: 它用于在 Unity 中编写音频过滤器,最初的朴素卷积是在托管代码中完成的,但对于实时音频处理来说太慢了。 ...
浮点 问答列表
作者:aybe 提问时间:8/14/2023
我有一套 240 个 FIR 滤波器卷积的单元测试,具有不同的抽头数量。 预期用途: 它用于在 Unity 中编写音频过滤器,最初的朴素卷积是在托管代码中完成的,但对于实时音频处理来说太慢了。 ...
作者:Suhani Gurjar 提问时间:8/17/2023
这个问题在这里已经有答案了: 如何在迭代时从列表中删除项目? (25 个答案) 3个月前关闭。 我创建了一个程序,其中我有一个元素列表,分别是 string、int 和 float。我想从列表中删除...
作者:dHubley 提问时间:8/19/2023
使用下面的代码片段时,我预计displacement_sim的值几乎完全相等,但似乎存在大量的数值噪声。 import numpy as np import matplotlib.pyplot as...
作者:OnDraganov 提问时间:8/18/2023
我想主要按浮点数对对列表排序,其次按整数排序。问题在于比较浮点数是否相等——在许多情况下,我们得到的是任意比较,而不是求助于次阶。 例 my_list = [ (0, 1.2), (2, 0.0...
作者:0xbadf00d 提问时间:8/20/2023
我正在运行一种生成对的算法,其中 和 都是正 s。它们不是独立的; 取决于。算法完成后,我需要将 all 的总和除以 all 的总和。(t[i], x[i])t[i]x[i]double(t[i], ...
作者:Vilhelm Gray 提问时间:5/30/2013
是否有宽度说明符可以应用于浮点说明符,该浮点说明符会自动将输出格式化为必要数量的有效数字,以便在重新扫描字符串时获取原始浮点值?printf 例如,假设我将 a 打印为小数点后一位的精度:float...
作者:Aryan Singh 提问时间:8/21/2023
正如 Java 语言规范中所写的那样,“如果其中一个或两个操作数都是 NaN,则数值比较运算符 <、<=、> 和 >= 返回 false” 所以我比较了两个 NAN。 为什么当我比较两个 NAN 时,...
作者:Jan Schultke 提问时间:8/23/2023
为了在不允许重复的数据结构(如二叉树、堆等)中对浮点数进行排序,我想四舍五入到一定的精度级别,如下所示:float float round_to_epsilon(x); bool less_tha...
作者:Goldman wily 提问时间:8/26/2023
我正在做一个项目,其中的统计数据会影响通过预制数学公式运行的其他统计数据,其中大部分工作正常,但我担心浮点函数的不精确性。 我尝试过使用 Decimal 模块,但它似乎不适用于下面示例的属性: p...
作者:Megumin 提问时间:8/25/2023
我正在尝试在汇编中实现fmodf函数。我使用了如下公式。 fmodf(浮点数 x,浮点数 y) = x - 截断(x / y) * y 问题是,当 x>>y 时,函数的精度会越来越差。事实上,当 ...