为什么十进制数不能用二进制精确表示?
作者:Barry Brown 提问时间:7/7/2009
已经向 SO 发布了几个关于浮点表示的问题。例如,十进制数 0.1 没有精确的二进制表示形式,因此使用 == 运算符将其与另一个浮点数进行比较是危险的。我了解浮点表示背后的原理。 我不明白的是,为什...
浮点 问答列表
作者:Barry Brown 提问时间:7/7/2009
已经向 SO 发布了几个关于浮点表示的问题。例如,十进制数 0.1 没有精确的二进制表示形式,因此使用 == 运算符将其与另一个浮点数进行比较是危险的。我了解浮点表示背后的原理。 我不明白的是,为什...
作者:Ernaldo 提问时间:5/17/2023
我想知道实现这一目标的最简单、最便携和普遍认为的最佳实践,适用于任何数字。我还希望与数字相关的字符串采用十进制表示,如果可能的话,没有科学记数法。...
作者:Safwan Samsudeen 提问时间:6/5/2023
我正在学习 Ruby,目前我的数量很多。因此,据我了解,有五种方法(也许更多)可以相互强制整数和浮点数: Integer#to_f:胁迫到新的浮动 Float#ceil:四舍五入到最接近的整数 Fl...
作者:pmor 提问时间:6/5/2023
一个简单的问题:在哪种 FPCR 配置 ARM FP 指令下符合 IEEE 754-2008? 我假设符合 IEEE 754-2008 的 FPCR 配置是: - AHP (Alternative...
作者:pmor 提问时间:6/6/2023
如果出现以下情况,则 [1] 使用“四舍五入前小”逻辑:FPRoundBaseFPCR.AH != '1' // Underflow occurs if exponent is too small ...
作者:MistaJase 提问时间:6/8/2023
我知道这个问题以前有人问过,我尝试了多种解决方案都没有成功,而且似乎比看起来更复杂...... 我在应用折扣后处理产品价格,因此我将数字四舍五入到小数点后 2 位 所以以这个示例代码为例,希望每个...
作者:Jason Punyon 提问时间:2/17/2009
在我之前的问题中,我正在打印一个在我没有预料到的情况下被舍入的用途。如何使用全精度进行打印?doublecoutcoutdouble...
作者:Chris 提问时间:6/11/2023
当您移动值进行转换时,当二进制数的某些数据丢失时,您应该怎么做?我将在下面添加一个示例。我要写我的作品,以防万一! 假设我们有二进制数(8 位尾数,4 位指数,均为 2 的补码)10100011 1...
作者:user3869810 提问时间:6/14/2023
我正在写减去浮点数 1.0 - 1.0 的论文。 我将指数对齐,然后减去尾数。这是零,我的结果是 1.0。显然,结果应该是 0。如果我不能将尾数归一化为 0,没有位可以移动,这怎么可能? 指数是对...
作者: 提问时间:6/13/2023
如果我们通过将浮点范围乘以整数值来将双精度浮点范围映射到整数范围,那么在截断/下限结果为整数时表示所有数字的最大数字是多少?没有扩展精度乘法。N 四舍五入为可表示的值。[0, 1)[0-N)NN[0-...