精度 问答列表

pytorch-lightning 的梯度累积中的数值不精确?

作者:Astrid Hofmann 提问时间:10/7/2023

根据我对梯度累积的理解(例如这篇文章和这篇文章),使用 vs. 应该是一样的。batch_size = xaccumulate_gradient = h, batch size = x/h 因此,这...

C++ 中算术运算和强制转换的机器值

作者:p d 提问时间:10/9/2023

我是 C++ 编程的新手。我想知道作为 C++ 中以下简单操作的结果,可以获得哪些可能的机器值: int a = 3; double inv_a; inv_a = (double) 1 / (do...

C# IEEE754舍入

作者:pmcilreavy 提问时间:10/8/2023

请考虑以下 C# 代码... double x = Math.Round(72.6d, 2, MidpointRounding.ToZero); double y = Math.Round(82.6...

将浮点数限制为小数点后两位

作者: 提问时间:1/19/2009

我想四舍五入到 13.95。我尝试使用圆形,但我得到:a >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 有关标准库 De...

int 与浮点数的乘法导致错误 [duplicate]

作者:Abhilash0496 提问时间:6/16/2023

这个问题在这里已经有答案了: 国际除法:为什么 1/3 == 0 的结果? (19 个答案) 5个月前关闭。 import java.util.Scanner; public class Main ...

在 lme4 中使用 cloglog 链接进行 PIRLS 步进减半

作者:Michael Roswell 提问时间:10/25/2023

我收到 PIRLS 步进减半错误,使用 .在我看来,我生成的数据可能在下面模型过于复杂,这可能是完整的答案,但我对错误注释的理解不够好,无法自信。我看到了另一个答案,它引用了不太规范的链接函数的行为,...

C# 格式浮点舍入/准确性问题:N2 与 0.00

作者:Tom Charles Zhang 提问时间:10/17/2023

在 C# (.Net 7) 中: float a = 13082987520.00f; Console.WriteLine(a); Console.WriteLine($"{a:N2}"); Con...

Java 17 与 Java 8 双重表示

作者:omar mahameed 提问时间:10/26/2023

在 2 个不同的 JVM(Java 8 和 Java 17)之间执行平均值时,相同值的差异是什么原因? 那是因为浮点吗?还是在 2 个版本之间有其他变化? 爪哇 17 public class ...

快速计算出 32 位浮点表示和相关损耗的方法

作者:Charles 提问时间:10/25/2023

我正在处理来自高精度系统的给定范围(即朗度和滞后度)的实数,这将为我提供许多小数(通常以 15 为量级,当然还有逗号最多剩三位)。现在,这些小数点在多大程度上代表了实际的知识,我不知道,但我想把它们都...

pandas 数据结构的数据类型问题(真的)大数字

作者:ex1led 提问时间:10/25/2023

我在使用 Python Pandas 时遇到了问题,并且数据集存在一些精度问题。 这是我用作此处随机情况的整数集:链接 我试图做的是计算一些统计数据并将它们切入垃圾箱。 下面是驱动程序代码。Seri...


共694条 当前第16页