双精度 问答列表

使用 BigDecimal 作为初学者而不是 Double?

作者:Zohka 提问时间:7/18/2020

我目前正在学习 Java,偶然发现了“BigDecimal”的用法。据我所知,“BigDecimal”更精确,因此建议使用它而不是普通的 Double。 我的问题是:我应该总是使用“BigDecim...

Objective-C 中双精度的范围是多少?

作者:tombuarts 提问时间:5/2/2011

我有一个程序,我正在计算远距离。然后,我使用 stringfromnumber 转换距离(双精度)以插入逗号(即 1,234,567)。只要距离低于 2,000,000,000,这就可以正常工作。每当...

在加法之前将双精度转换为 BigDecimal 以保持原始精度是否足够?

作者:bubblefoil 提问时间:1/3/2019

我们正在解决一个与数字精度相关的错误。我们的系统收集一些数字并吐出它们的总和。 问题是系统没有保留数字精度,例如 300.7 + 400.9 = 701.599...,而预期结果为 701.6。精度应...

如何在 Java 中处理精确的精度?

作者:Farhan stands with Palestine 提问时间:12/22/2018

要求是检查位于 2D 平面中的特定点是否穿过特定线。 给出的 2 个首字母点是 和 。 直线的斜率可以计算为(3,1)(12, 3) (y2-y1) / (x2-x1) 然后可以构造直线方程,...

什么是 MS 其他有用的代码片段中的“单位”HasMinimalDifference 用于双重相等

作者:Dave 提问时间:3/20/2018

Double.Equals 的文档包含一个有用的方法 public static bool HasMinimalDifference(double value1, double value2, in...

减法时的 MATLAB 精度

作者:user53534 提问时间:10/21/2014

我需要高精度来完成我正在从事的项目。 我遇到的问题在减去时在这里得到了说明: >> 1-0.9999999999999999 ans = 1.1102e-16 >> 1-0.9999999999...


共26条 当前第3页