问答列表

为什么这些数字不相等?

作者:dplanet 提问时间:3/1/2012

下面的代码显然是错误的。怎么了? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i ...

为什么这些数字不相等?

作者:dplanet 提问时间:3/1/2012

下面的代码显然是错误的。怎么了? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i ...

CNN 的准确性卡在 Adam 和 SGD 上

作者:SpaceFox0210 提问时间:9/17/2023

我正在制作使用监督学习和强化学习来玩 Gomoku 的代理。问题发生在监督学习中。精度和损耗停止增加/减少。损失图精度图。粉红色是亚当,黄色是SGD 我的模型和源代码: def InYeongGo...

为什么当我在Perl中从自身中减去相同的浮点数时,我没有得到零?[复制]

作者:Prashant 提问时间:1/17/2010

这个问题在这里已经有答案了: 13年前关闭。 可能的重复项: 为什么 C# 中的浮点运算不精确? 为什么 ghci 说 1.1 + 1.1 + 1.1 > 3.3 是真的? #!/usr/bin/...

C# DateTime.Now 精度

作者:Andy White 提问时间:1/27/2010

我只是在进行一些单元测试时遇到了一些意外的DateTime.UtcNow行为。看起来,当您快速连续调用 DateTime.Now/UtcNow 时,它似乎会在比预期更长的时间间隔内返回相同的值,而不是...

MySQL SELECT 计算精度(小数点后的数字)

作者:Jimmix 提问时间:3/25/2019

我正在尝试为来自执行某些方程式的 SELECT 的结果实现相同的精度(小数点后位数)。 在性能方面是否有任何区别,在 CAST() 或 ROUND() 之间实现所需的精度的情况下,除了四舍五入最后一...

如何从基于回调的 API 创建 AngularJS 承诺

作者:Bobys 提问时间:3/30/2017

WiFiService.js: angular.module('app.WifiServices', []) .factory('WifiService', function(){ var un...

T-SQL 十进制除法精度

作者:MT. 提问时间:1/8/2009

有谁知道为什么,使用 SQLServer 2005 SELECT CONVERT(DECIMAL(30,15),146804871.212533)/CONVERT(DECIMAL (38,9),12...

setprecision 和浮点

作者:SRYZDN 提问时间:1/21/2015

运行以下代码,我希望收到这样的输出: Desired output: Car Hours Charge 1 1.5 2.00 2 4.0 2.50 3 24.0 10.00 但结果如下: Ac...

new BigDecimal(double) 与 new BigDecimal(String) [重复]

作者:dardeshna 提问时间:4/15/2015

这个问题在这里已经有答案了: BigDecimal from Double 值不正确? (4 个答案) 将 double 转换为 BigDecimal 并设置 BigDecimal 精度 (9 个答案...


共1296条 当前第7页