精度 问答列表

1/sqrt(x) 和 std::exp(-0.5 * std::log(x)) 之间的数值权衡

作者:keith 提问时间:2/6/2017

我遇到过一些计算 double y = 1 / std::sqrt(x); 用: constexpr double base16 = 16.0; double log_base16 = std...

为什么我看到一个双精度变量初始化为21.399999618530273的某个值,如21.4?

作者: 提问时间:10/7/2008

double r = 11.631; double theta = 21.4; 在调试器中,它们显示为 和 。11.63100000000000021.399999618530273 我怎样才能...

Java 与 MySQL:浮点类型差异

作者:mark 提问时间:9/1/2013

我在 java 中使用浮点数,打印它们并将它们存储在 MySQL 浮点列中。结果是 java 打印如下所示 x=260.1201 y=260.12 没关系,因为 x=y+0.0001 当我尝试将这些...

如何在 mysql 中存储十进制计算结果并将其检索回内存中

作者:Accountant م 提问时间:3/16/2017

MySQL文档说: DECIMAL 和 NUMERIC 类型存储精确的数值数据值。当需要保持精确精度时,例如货币数据,可以使用这些类型。 我在那列上做了这个测试。decimal_column DE...

使用浮点数进行filter_var_array会导致结果中的小数位数过多

作者:skaldesh 提问时间:3/17/2017

我对 filter_var_array 函数有疑问,特别是“FILTER_VALIDATE_FLOAT”标志,它返回的浮点数点数太多 代码优先: if (property_exists($this...

PHP在大数字下表现得很滑稽

作者:Chinmay Chandak 提问时间:5/18/2017

在我的一次大学竞赛中,问题指出将文件中的输入作为数字,然后简单地将其一半添加到自身中。 这些数字是 18 位长整数。我的大部分 php 输出都与实际答案不同(大部分差异是 2 的幂)。 注意:我还将浮...

如何使用“%f”以正确的精度将双精度值填充到字符串中

作者:AMM 提问时间:9/16/2008

我正在尝试使用这样的双精度值填充字符串:sprintf sprintf(S, "%f", val); 但精度被削减到小数点后六位。我需要大约 10 位小数来提高精度。 如何实现这一目标?...

实现朴素贝叶斯分类器的准确率低

作者:Elnaz 提问时间:6/4/2017

我有朴素贝叶斯分类器的代码,实现了朴素贝叶斯的概念,但该算法给我的准确率约为 48%,远低于朴素贝叶斯的 MATLAB 内置函数 (84%)。谁能帮我问题出在哪里? 这是我的代码: functio...

哪些语言/环境允许高精度数字?[关闭]

作者:tamir 提问时间:7/2/2017

闭。这个问题正在寻求有关书籍、工具、软件库等的建议。它不符合 Stack Overflow 准则。它目前不接受答案。 我们不允许提出有关书籍、工具、软件库等建议的问题。您可以编辑问题,以便用事实和引...

在 Java 中使用 == 比较浮点数有什么问题?

作者:user128807 提问时间:7/7/2009

根据这个 java.sun 页面是 Java 中浮点数的相等比较运算符。== 但是,当我键入此代码时: if(sectionID == currentSectionID) 进入我的编辑器并运行...


共694条 当前第41页