我试图将浮点数四舍五入到小数点后两位,但这是不正确的。如何修复 C++ 中的这个舍入错误?
作者:Hinko Pih Pih 提问时间:7/14/2019
我在四舍五入浮点数时遇到了问题。我正在解决一项任务,您需要将结果四舍五入到小数点后两位。但是当小数点后第三个点是 5 时,我不能这样做,因为它存储不正确。 例如:我的结果等于 1.005,应该四舍五...
浮 问答列表
作者:Hinko Pih Pih 提问时间:7/14/2019
我在四舍五入浮点数时遇到了问题。我正在解决一项任务,您需要将结果四舍五入到小数点后两位。但是当小数点后第三个点是 5 时,我不能这样做,因为它存储不正确。 例如:我的结果等于 1.005,应该四舍五...
作者:bunting 提问时间:7/14/2019
我正在尝试使用下面的代码计算视锥体的侧表面。 输入:2 个节点,包含 x、y、z 值(绝对位置)和半径(位置半径)均为双精度 到目前为止我正在做什么: 1. 计算视锥体的长度 2.计算视锥体的侧表...
作者:Adam Davis 提问时间:9/11/2008
在这个问题的后续中,似乎有些数字根本不能用浮点数表示,而是近似值。 浮点数是如何存储的? 不同尺寸是否有共同的标准? 如果我使用浮点,我需要注意什么样的陷阱? 它们是否跨语言兼容(即,我需要处...
作者:Alecos Papadopoulos 提问时间:7/29/2019
对于这里的人来说,这可能是基本的。我只是一个计算机用户。 我在标准正态累积分布函数 (CDF) 的极值(0 和 1)附近徘徊,我注意到我们可以得到变量的大负值的非常小的概率值,但对于大的正值,我们在...
作者:griswold88 提问时间:8/28/2019
这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 4年前关闭。 我正在尝试打印出从 11 到 30 乘以 0.015 的整数 for ( let i = 11; i <= 30; ...
作者:Parag Meshram 提问时间:9/10/2019
这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 4年前关闭。 为什么是 100./3.= 33.333333333333336 而不是 33.333333333333333 或 3...
作者:xis 提问时间:6/22/2011
我正在对科学应用进行一些数值优化。我注意到的一件事是 GCC 会通过将调用编译成 来优化调用,但调用没有优化,实际上会调用库函数,这大大降低了性能。(相比之下,英特尔 C++ 编译器(可执行文件)将消...
作者:fidudidu 提问时间:9/17/2019
看看 Math 类,ulp 方法: public static float ulp(float f) 如果应用该方法,如下所示: ,则会出现 Javadoc 文档中的以下规则:Math.ulp(...
作者:Christoph 提问时间:9/18/2019
是否可以避免或发出从整数和到的自动 Numpy 类型转换的警告?32 bit float arrays64 bit float arrays 我的用例是,我正在开发一个大型分析包(20k 行 Pyt...
作者:john 提问时间:8/6/2019
我正在寻找一个公式来限制浮点乘法传播的误差。我已经看到了以下陈述(但未得到证实)。 如果是 with bound ulps 的浮点近似值,并且同样是 with bound ulps 的浮点近似值,并...