舍入 问答列表

为什么 Ruby 的 Float#round 行为与 Python 不同?

作者:steenslag 提问时间:4/1/2013

"Python 中“round”函数的行为“观察到 Python rounds 像这样浮动: >>> round(0.45, 1) 0.5 >>> round(1.45, 1) 1.4 >>> ro...

python 2 和 3 之间日期时间舍入的奇怪行为

作者:simonzack 提问时间:1/23/2015

在 python 2 中,我们有: >>> datetime.datetime.utcfromtimestamp(1000000000005.0/1000.0) datetime.datetime(...

Firefox 和 Javascript 舍入规则

作者:Dave Morgan 提问时间:7/4/2011

我不知道我是否在这里遗漏了一些明显的东西,但是...... 在 IE、Opera 和 Chrome 中,我从以 5 结尾的四舍五入数字中得到了我所期望的: 125 toPrecision(2) =...

两种舍入方法给出不同的结果

作者:Lapis 提问时间:6/18/2014

两种不同的浮点数舍入方法显示不同的结果。 "%.2f" % 0.015 # => "0.01" 0.015.round(2) # => 0.02 一个是字符串,另一个是浮点数。当舍入除 0....

JavaScript:在不影响结果准确性的情况下舍入数字

作者:Eni Generalić 提问时间:10/1/2013

问题:如果你这样做,你会得到的结果是 3 而不是 3。log1000log1000 = 2.9999999999999996 我试图在不影响结果准确性的情况下删除 JavaScript 函数中的此舍...

我似乎无法使用 setprecision c++ [closed] 正确计算小数的数量

作者:Zeptuz 提问时间:12/11/2022

闭。这个问题是不可重现的,或者是由错别字引起的。它目前不接受答案。 这个问题是由一个错别字或一个无法再重现的问题引起的。虽然类似的问题可能在这里成为主题,但这个问题的解决方式不太可能帮助未来的读者。...

Ruby 浮点数减法错误?

作者:medi_kirk 提问时间:11/11/2013

谁能解释一下为什么下面的 Ruby 例程会给我一个 2.0 的结果?我认为四舍五入浮点数是错误的根源。 puts(999_999_999_999_999_9.0 - 999_999_999_999_...

nnet() 在不同的操作系统中有不同的结果(Windows 与 Linux)

作者:N Anderson 提问时间:2/20/2023

我正在使用 nnet() 包专门用于 ANN 模型的 R 脚本。我在本地计算机 (Windows) 上运行脚本,我的同事在他的计算机 (Docker -> Linux) 上运行相同的 R 脚本。对于A...

我知道 Python (3.x) 应该四舍五入到偶数。为什么 round(0.975,2) = 0.97 但 round(0.975*100)/100 = 0.98?

作者:dalleaux 提问时间:2/15/2023

所以问题在标题中。以下是一些更多详细信息: 法典: a=0.975 print(round(a,2)) print(round(a*100)/100) a=-0.975 print(round(...

时间关键型 C++ 循环中的浮点数舍入错误,寻找有效的解决方案

作者:elena 提问时间:2/7/2023

作为一个前提,我知道这个问题已经得到解决,但从未在这种特定情况下得到解决,从我能找到的搜索中。 在一段时间关键的代码中,我有一个循环,其中浮点值 x 必须在“z”步长中从 0 线性增长到正好 1。 ...


共85条 当前第7页