问答列表

如何使用BigDecimal来提高此方法的准确性?

作者:Todd R 提问时间:5/11/2021

我编写了以下简单的函数,用于计算整数倒数的反弧。我想知道如何使用 BigDecimal 而不是 double 来提高结果的准确性。我还考虑使用 BigInteger 来存储“术语”值除以的 xSqua...

浮点型字段显示的小数位数多于字段大小

作者:SisMaster 提问时间:8/17/2022

我正在从带有 MySQL 4.1 的 Delphi Seattle 10 迁移到带有 MySQL 5.7 的 Delphi Alexandria 11.1。 在那之后,我发现 字段类型有问题 ,使用该...

OpenGL 是否在后台使用定点计算?

作者: 提问时间:8/26/2022

据我所知,OpenGL 在栅格化三角形以避免像素间隙和过度绘制时会遵循填充约定。但是,如果所有计算都使用浮点而不是定点浮点完成,那么这些约定是否有意义?所以,我认为 API 确实使用了定点类型。...

如何在 PHP 中正确计算指数值

作者:Real Noob 提问时间:8/21/2022

下面是一些示例代码: $principal = 30000; $amount = 40000; $time = 8; $rate = $time*(pow($amount/$principal, ...

浮点错误 fligner.test r 函数?

作者:Jinglestar 提问时间:8/23/2022

我注意到,使用 r 包中的统计测试可以通过简单的转换提供不同的结果,即使情况并非如此。fligner.teststats 下面是一个示例(原始数据集的差异要大得多): g <- factor(re...

代码说 float 对象不是“float”对象不可迭代

作者:Stephen Martinez 提问时间:8/29/2022

我不确定我在这里做错了什么,但出于某种原因,每次我更正代码或尝试让它遍历 CSV 文件时,它都会给我一个不可迭代的浮点对象。如果有人能给我一些关于如何遍历浮点数组的指示,我将不胜感激。 impor...

比较浮点值有多危险?

作者:Proud Member 提问时间:4/26/2012

我知道用途是因为分辨率无关的坐标系。UIKitCGFloat 但是每次我想检查时,例如,它是否让我感到恶心:frame.origin.x0 if (theView.frame.origin.x =...

用 C 语言计算相对时间#

作者: 提问时间:8/1/2008

给定一个特定的值,我如何显示相对时间,例如:DateTime 2 hours ago 3 days ago a month ago...

为什么这个简单的表达式会导致错误的值

作者:Gustavo Gomes 提问时间:9/8/2022

这个表达怎么是真的? (13532728 + 1 + 76561197960265728) == (13532740 + 1 + 76561197960265728) 我计算了两个分开的表达式,它...

JavaScript 浮点数未正确截断

作者:Alexander Veheecke 提问时间:9/8/2022

我正在努力让浮点数正确显示。它在大多数情况下都有效。例如,如果我在“kWh”中输入 0.2,在“使用小时数”中输入 0.04,则在“总计”中输出 0.008。但是,当我将这些值更改为 0.02 和 0...


共1296条 当前第105页