VBA round(var,1) 导致浮点错误
作者:Jacob Shaw 提问时间:5/11/2023
我正在使用VBA计算值并将其打印到工作表中。计算值是“单个”,我想将其四舍五入到小数点后一位。出于某种原因,“round”函数四舍五入到最接近的小数点,但它仍然有看起来像浮点误差的东西。我可以手动修复...
浮点舍 问答列表
作者:Jacob Shaw 提问时间:5/11/2023
我正在使用VBA计算值并将其打印到工作表中。计算值是“单个”,我想将其四舍五入到小数点后一位。出于某种原因,“round”函数四舍五入到最接近的小数点,但它仍然有看起来像浮点误差的东西。我可以手动修复...
作者:alexfilexpo 提问时间:6/30/2023
这个问题在这里已经有答案了: 为什么IEEE754精度格式只能精确到 15 位? (1 个答案) 浮点数学坏了吗? (34 个答案) 5个月前关闭。 今天我发现将 int 转换为浮点具有非常有趣的精...