浮点舍 问答列表

VBA round(var,1) 导致浮点错误

作者:Jacob Shaw 提问时间:5/11/2023

我正在使用VBA计算值并将其打印到工作表中。计算值是“单个”,我想将其四舍五入到小数点后一位。出于某种原因,“round”函数四舍五入到最接近的小数点,但它仍然有看起来像浮点误差的东西。我可以手动修复...

将较大的 int 值转换为浮点数,不向上舍入 [duplicate]

作者:alexfilexpo 提问时间:6/30/2023

这个问题在这里已经有答案了: 为什么IEEE754精度格式只能精确到 15 位? (1 个答案) 浮点数学坏了吗? (34 个答案) 5个月前关闭。 今天我发现将 int 转换为浮点具有非常有趣的精...


共2条 当前第1页