精度 问答列表

在 Python 中使用 pye57 和 laspy 将 E57 转换为 LAS 的准确性问题

作者:Arjan 提问时间:10/17/2023

我正在尝试将 .e57 点云转换为 .las 点云,但我遇到了似乎是由准确性引起的问题。下图说明了 CloudCompare 中的原始 .e57 与 CloudCompare 中转换后的 .las 文...

如何在双双算术中正确四舍五入到最接近的整数

作者:kleite 提问时间:10/13/2023

我必须使用 Python3(PyPy 实现)分析大量数据,在其中我对相当大的浮点数进行一些操作,并且必须检查结果是否足够接近整数。 举例来说,假设我正在生成随机的数字对,并检查它们是否形成毕达哥拉斯...

确保计算返回的坐标完全相同

作者:smpa01 提问时间:10/19/2023

我在一个大圆圈上以度角放置了 4 个小圆圈。我希望 javascript 返回完全相同的红色和蓝色圆圈(因为移位是水平的,y 是相同的,但 x 会改变)和绿色和粉红色圆圈的返回完全相同(因为移位是垂直...

使用 Python,Kraken 的 REST API 上交易量和价格所需的十进制精度是多少?

作者:Dave 提问时间:10/17/2023

我想使用 Python 与 Kraken REST API (https://support.kraken.com/hc/en-us/articles/360025180232-REST-API-co...

Java Explicit Cast 从 Double 到 Int 的舍入规则是什么

作者:Evloution78 提问时间:10/25/2023

今天在演示 Java 显式类型转换时遇到了一个奇怪的怪癖,我想知道为什么会发生这种情况。 如果我将双精度转换为整数,并且我的数字是 .9 到 16 精度,它将四舍五入。(请参阅代码中的注释)如果我使...

pandas 数据结构的数据类型问题(真的)大数字

作者:ex1led 提问时间:10/25/2023

我在使用 Python Pandas 时遇到了问题,并且数据集存在一些精度问题。 这是我用作此处随机情况的整数集:链接 我试图做的是计算一些统计数据并将它们切入垃圾箱。 下面是驱动程序代码。Seri...

快速计算出 32 位浮点表示和相关损耗的方法

作者:Charles 提问时间:10/25/2023

我正在处理来自高精度系统的给定范围(即朗度和滞后度)的实数,这将为我提供许多小数(通常以 15 为量级,当然还有逗号最多剩三位)。现在,这些小数点在多大程度上代表了实际的知识,我不知道,但我想把它们都...

Java 17 与 Java 8 双重表示

作者:omar mahameed 提问时间:10/26/2023

在 2 个不同的 JVM(Java 8 和 Java 17)之间执行平均值时,相同值的差异是什么原因? 那是因为浮点吗?还是在 2 个版本之间有其他变化? 爪哇 17 public class ...

C# 格式浮点舍入/准确性问题:N2 与 0.00

作者:Tom Charles Zhang 提问时间:10/17/2023

在 C# (.Net 7) 中: float a = 13082987520.00f; Console.WriteLine(a); Console.WriteLine($"{a:N2}"); Con...

在 lme4 中使用 cloglog 链接进行 PIRLS 步进减半

作者:Michael Roswell 提问时间:10/25/2023

我收到 PIRLS 步进减半错误,使用 .在我看来,我生成的数据可能在下面模型过于复杂,这可能是完整的答案,但我对错误注释的理解不够好,无法自信。我看到了另一个答案,它引用了不太规范的链接函数的行为,...


共694条 当前第30页