单精度 问答列表

当我们在计算器中将 0.7 和 0.1 相加时,计算机如何向我们显示 0.6 的结果?

作者:NoWeDoR 提问时间:10/21/2016

1)据我所知,计算机将十进制数转换为二进制数字并按其进行交易。例如,当我们在计算机计算器中添加“12”和“37”等十进制数时。这是正确的吗? 2) 如果我的第一个问题是正确的,那么 CPU 如何以单...

机器精度和底溢之间的差异

作者:stancallewier 提问时间:12/20/2022

我不明白机器精度和下溢之间的区别。以单精度系统为例:机器精度为10^-7,底溢精度为1.18*10^-38。 这意味着 1.18 *10^-38 是你可以用这个系统表示的最小数字,但是这个系统的精度(...

如何精确计算给定平方边长的三角形的角度?

作者:Alec Jacobson 提问时间:9/20/2023

给定三角形的平方边长为 ,我们如何准确计算内角?a, b, c > 0 Kahan经常引用的方法,它仔细地重新排列括号,假设(不平方)边缘长度。 另一种流行的方法(第 15 页)假设边缘向量。 ...


共3条 当前第1页