浮动精度 问答列表

CS50 可读性 pset2 中的错误

作者:Dheetilekha Nath 提问时间:8/26/2020

我的代码编译正确,我通过了除一个测试用例之外的所有测试用例。 错误发生在句子中 - “在我更年轻和更脆弱的岁月里,我父亲给了我一些建议,从那以后我一直在脑海中翻阅”,这期望 7 级,但我的代码输出 8...

这些浮动结果的原因是什么?[复制]

作者:55gus 提问时间:9/10/2019

这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 3年前关闭。 对于下面的代码,为什么第一个结果是小十进制数,而第二个结果是 0?我的主要问题是为什么额外的小数位使第二个结果为 0。...

在PHP中计算机器epsilon的最佳方法?

作者:Agnius Vasiliauskas 提问时间:10/20/2020

在PHP中直接计算机器epsilon(浮点舍入误差)的最佳/最正确的方法是什么,而不使用内置常量?目前,我已经设法研究了两种方式,“标准”和渐近接近 epsilon :PHP_FLOAT_EPSILO...

设置成员变量值后,该值在 getter 函数内部发生变化

作者:karim 提问时间:11/28/2020

我正在尝试设置两个成员变量,它们是浮点型,并且也成功了一个(这只不过是直接在 setter 函数中分配的)。但是另一个需要一些计算,我在计算后对其进行了配置。对于第二个变量,我已经在 setter 函...

python 中 math.pow、numpy.power、numpy.float_power、pow 和 ** 的准确性

作者:user3563894 提问时间:12/3/2020

python 中的 math.pow、numpy.power、numpy.float_power、pow() 和 ** 之间,两个浮点数 x,y 之间的准确性是否存在差异? 我假设 x 非常接近 1,...

如何计算输入的小数点?[复制]

作者: 提问时间:12/19/2020

这个问题在这里已经有答案了: 在 Python 中确定特定数字的精度和小数位数 (12 个答案) 2年前关闭。 我想知道输入必须有多少小数,然后使用该信息将运算结果近似为相同数量的小数。例如: e...

DIY四舍五入功能给出奇怪的值[重复]

作者:1cedsoda 提问时间:1/10/2021

这个问题在这里已经有答案了: 如何在小数点后将 Dart 中的双精度四舍五入到给定的精度? (29 个答案) 去年关闭。 我已经对这个简单的函数进行了编码,以将双精度四舍五入到自定义步长。 普通的 ...

有没有办法在 PHP 中正确比较浮点数?

作者:flashdebugger 提问时间:4/4/2021

在PHP中,我愿意在一些操作后比较浮点数,但它没有正确显示。 例如: $a = 0.2; if ( ($a - 0.2) === 0 ) return true; else return fal...

是否可以在混淆矩阵中添加额外的列?

作者:Jan D.M. 提问时间:4/18/2021

我创建了一个多类分类器,现在我想以一种干净的方式显示每个类的混淆矩阵和准确性。 我已经在sklearn中找到了一个函数,它使我有可能显示混淆矩阵:sklearn.metrics.plot_confu...

如何在MATLAB中摆脱这个数值问题?

作者:Paddy 提问时间:6/4/2021

我有一个数组来表示时间: t = linspace(-30,30,N); 然后我执行以下操作: plot(sech(t) + 1e-4 - sech(t)) 它给出了以下图: 通常,这不...


共110条 当前第6页