问答列表

我试图将浮点数四舍五入到小数点后两位,但这是不正确的。如何修复 C++ 中的这个舍入错误?

作者:Hinko Pih Pih 提问时间:7/14/2019

我在四舍五入浮点数时遇到了问题。我正在解决一项任务,您需要将结果四舍五入到小数点后两位。但是当小数点后第三个点是 5 时,我不能这样做,因为它存储不正确。 例如:我的结果等于 1.005,应该四舍五...

在 Java 中使用 double 计算视锥体的侧面时如何处理浮点精度

作者:bunting 提问时间:7/14/2019

我正在尝试使用下面的代码计算视锥体的侧表面。 输入:2 个节点,包含 x、y、z 值(绝对位置)和半径(位置半径)均为双精度 到目前为止我正在做什么: 1. 计算视锥体的长度 2.计算视锥体的侧表...

浮点是如何存储的?什么时候重要?

作者:Adam Davis 提问时间:9/11/2008

在这个问题的后续中,似乎有些数字根本不能用浮点数表示,而是近似值。 浮点数是如何存储的? 不同尺寸是否有共同的标准? 如果我使用浮点,我需要注意什么样的陷阱? 它们是否跨语言兼容(即,我需要处...

为什么我们渐近地接近值 0 比值 1 “更多”?

作者:Alecos Papadopoulos 提问时间:7/29/2019

对于这里的人来说,这可能是基本的。我只是一个计算机用户。 我在标准正态累积分布函数 (CDF) 的极值(0 和 1)附近徘徊,我注意到我们可以得到变量的大负值的非常小的概率值,但对于大的正值,我们在...

如何将 11 到 30 之间的整数乘以 0.015?[复制]

作者:griswold88 提问时间:8/28/2019

这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 4年前关闭。 我正在尝试打印出从 11 到 30 乘以 0.015 的整数 for ( let i = 11; i <= 30; ...

有人可以解释我 Python Division [重复]

作者:Parag Meshram 提问时间:9/10/2019

这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 4年前关闭。 为什么是 100./3.= 33.333333333333336 而不是 33.333333333333333 或 3...

为什么 GCC 不将 a*a*a*a*a*a*a 优化为 (a*a*a)*(a*a*a)?

作者:xis 提问时间:6/22/2011

我正在对科学应用进行一些数值优化。我注意到的一件事是 GCC 会通过将调用编译成 来优化调用,但调用没有优化,实际上会调用库函数,这大大降低了性能。(相比之下,英特尔 C++ 编译器(可执行文件)将消...

不带 strictfp 的最小精度单位

作者:fidudidu 提问时间:9/17/2019

看看 Math 类,ulp 方法: public static float ulp(float f) 如果应用该方法,如下所示: ,则会出现 Javadoc 文档中的以下规则:Math.ulp(...

如何避免 Numpy 类型转换?

作者:Christoph 提问时间:9/18/2019

是否可以避免或发出从整数和到的自动 Numpy 类型转换的警告?32 bit float arrays64 bit float arrays 我的用例是,我正在开发一个大型分析包(20k 行 Pyt...

浮点乘法上的误差边界

作者:john 提问时间:8/6/2019

我正在寻找一个公式来限制浮点乘法传播的误差。我已经看到了以下陈述(但未得到证实)。 如果是 with bound ulps 的浮点近似值,并且同样是 with bound ulps 的浮点近似值,并...


共817条 当前第22页