如何将双精度转换为最接近的整数值?
作者:leora 提问时间:3/11/2009
如何将双精度转换为最接近的整数?...
舍入 问答列表
作者:leora 提问时间:3/11/2009
如何将双精度转换为最接近的整数?...
作者:jeninja 提问时间:11/12/2021
这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 2年前关闭。 我有一个函数,可以使用BigDecimal.setScale将浮点数四舍五入到n位数 private float r...
作者:0x539 提问时间:7/26/2016
我知道在浮点运算中会发生舍入错误,但有人可以解释一下原因吗: >>> 8.0 / 0.4 # as expected 20.0 >>> floor(8.0 / 0.4) # int works to...
作者:swilliams 提问时间:9/11/2008
round() 函数的文档指出,您向它传递一个数字,并且位置从小数点后到四舍五入。因此,它应该这样做: n = 5.59 round(n, 1) # 5.6 但是,实际上,老式的浮点怪异悄悄地蔓...
作者:Adil Khatri 提问时间:6/28/2023
为什么即使在我的全局上下文“舍入”设置为 之后,我也会得到 0.27 作为我的答案?round(0.265, 2)ROUND_HALF_EVEN 这是我的代码。 import decimal fr...
作者:Kevin Meier 提问时间:7/19/2023
我正在尝试创建一个代码,该代码将 a 除以另一个,并且它对结果应用舍入。代码应该尽可能快,并且适用于所有输入(例如,我希望它现在有条件)。uint64_tuint64_t 我目前的解决方案如下所示:...
作者:Gabe Stotler 提问时间:7/20/2023
我正在构建一个 API,而我使用的系统只在 PowerShell 中使用中点舍入。我发现某些数字仍然不遵守这一规则,我对原因的研究被证明是徒劳的。基本上,任何低于 5 四舍五入的东西,以及任何高于 5...
作者:pmor 提问时间:8/8/2023
手臂有指令,这是(强调后加):FCVTNS (scalar) 浮点转换为有符号整数,四舍五入到最接近,并系到偶数(标量)。 一个简单的问题:x86 有相当于 Arm 的吗?FCVTNS (scal...
作者:Jan Schultke 提问时间:8/23/2023
为了在不允许重复的数据结构(如二叉树、堆等)中对浮点数进行排序,我想四舍五入到一定的精度级别,如下所示:float float round_to_epsilon(x); bool less_tha...
作者:Adarsh 提问时间:8/18/2023
我正在尝试将时间戳四舍五入到下一个完整的 10 分钟。 我尝试了以下解决方案,但无法获得预期的结果 Postgres:如何将时间戳向上或向下舍入到最接近的分钟? Postgresql 将时间戳四舍...