提问人：NoWeDoR 提问时间：10/21/2016 最后编辑：NoWeDoR 更新时间：10/21/2016 访问量：126
当我们在计算器中将 0.7 和 0.1 相加时，计算机如何向我们显示 0.6 的结果？
How computer shows us the result of 0.7 when we add 0.1 and 0.6 in calculator?
问：
1）据我所知，计算机将十进制数转换为二进制数字并按其进行交易。例如，当我们在计算机计算器中添加“12”和“37”等十进制数时。这是正确的吗？
2） 如果我的第一个问题是正确的，那么 CPU 如何以单精度解释下面的二进制表达式？（结果是如何向我们展示的？计算机如何将这个转换为浮点数的表达式再次转换为十进制？以及我们如何将这个转换为浮点数的表达式再次转换为十进制？
0 ll 01111110 ll 01100110011001100110100
我的意思是我们如何知道这个表达式中的单精度结果是 0.70000005：浮点运算
3）据我所知，当我们在计算机计算器中将十进制0.1和0.6相加时，计算机执行的事务与我分享的视频中的事务相同。但是，计算器向我们隐藏了 .0000005 二进制部分（如视频结果所示），并向我们显示十进制数“0.7”作为结果，但它如何隐藏或删除该部分？为什么它没有通过四舍五入向我们显示像 0.71 这样的数字，
0 ll 01111110 ll 01100110011001100110100浮点数？
答： 暂无答案
上一个：Ruby 浮点精度
评论